機械学習 のバックアップ(No.8)


大分類

強化学習

  • TD学習
  • Q学習
  • 深層強化学習 (Deep Q-Network)

教師なし学習

  • 主成分分析
  • k-means

教師あり学習

回帰と分類

回帰 (Regression):推定したい結果が連続値
分類 (Classification):推定したい結果が離散値
回帰を使って分類器を作ることもできるため、両方に渡って使われるモデルも多い。

回帰

  • 線形モデル
    • 線形回帰、リッジ回帰、ラッソ、Elastic Net回帰
    • マルチタスク:マルチタスクLasso、マルチタスクElastic Net
    • 最小角度回帰、最小角度回帰Lasso
  • サポートベクタ回帰
  • 決定木:回帰木

分類

各論

線形モデル

線形回帰
sklearn.linear_model.LinearRegression
リッジ回帰
線形回帰にL2正則化項を加えたもの
sklearn.linear_model.Ridge
sklearn.linear_model.RidgeCV
ラッソ
線形回帰にL1正則化項を加えたもの
sklearn.linear_model.Lasso
sklearn.linear_model.LassoCV
Elastic Net回帰
sklearn.linear_model.ElasticNet
マルチタスクLasso
sklearn.linear_model.MultiTaskLasso
マルチタスクElastic Net
sklearn.linear_model.MultiTaskElasticNet
最小角度回帰 (Least Angle Regression / LARS)
sklearn.linear_model.Lars
最小角度回帰Lasso
sklearn.linear_model.LassoLars

単純ベイズ (Naive Bayes)

正規分布単純ベイズ
sklearn.naive_bayes.GaussianNB
多項分布単純ベイズ
sklearn.naive_bayes.MultinomialNB
補集合単純ベイズ
sklearn.naive_bayes.ComplementNB
ベルヌーイ分布単純ベイズ
sklearn.naive_bayes.BernoulliNB

決定木

回帰木
sklearn.tree.DecisionTreeRegressor
分類木
sklearn.tree.DecisionTreeClassifier