機械学習 のバックアップ(No.9)


大分類

強化学習

  • TD学習
  • Q学習
  • 深層強化学習 (Deep Q-Network)

教師なし学習

  • 主成分分析
  • K平均法 (k-means)
  • 混合ガウス分布

教師あり学習

回帰と分類

回帰 (Regression):推定したい結果が連続値
分類 (Classification):推定したい結果が離散値
回帰を使って分類器を作ることもできるため、両方に渡って使われるモデルも多い。

回帰

  • 線形モデル
    • 線形回帰、リッジ回帰、ラッソ、Elastic Net回帰
    • マルチタスク:マルチタスクLasso、マルチタスクElastic Net
    • 最小角度回帰、最小角度回帰Lasso
  • サポートベクタ回帰
  • 決定木:回帰木、ランダムフォレスト回帰

分類(識別)

  • ロジスティック回帰
  • ソフトマックス回帰
  • サポートベクタマシン (SVM)
  • 単純ベイズ (Naive Bayes)
  • 決定木:分類木、ランダムフォレスト分類器
  • 線形識別関数
  • 部分空間法
  • ベイズ識別関数

各論

線形モデル

線形回帰
sklearn.linear_model.LinearRegression
リッジ回帰
線形回帰にL2正則化項を加えたもの
sklearn.linear_model.Ridge
sklearn.linear_model.RidgeCV
ラッソ
線形回帰にL1正則化項を加えたもの
sklearn.linear_model.Lasso
sklearn.linear_model.LassoCV
Elastic Net回帰
sklearn.linear_model.ElasticNet
マルチタスクLasso
sklearn.linear_model.MultiTaskLasso
マルチタスクElastic Net
sklearn.linear_model.MultiTaskElasticNet
最小角度回帰 (Least Angle Regression / LARS)
sklearn.linear_model.Lars
最小角度回帰Lasso
sklearn.linear_model.LassoLars

単純ベイズ (Naive Bayes)

正規分布単純ベイズ
sklearn.naive_bayes.GaussianNB
多項分布単純ベイズ
sklearn.naive_bayes.MultinomialNB
補集合単純ベイズ
sklearn.naive_bayes.ComplementNB
ベルヌーイ分布単純ベイズ
sklearn.naive_bayes.BernoulliNB

決定木

回帰木
sklearn.tree.DecisionTreeRegressor
分類木
sklearn.tree.DecisionTreeClassifier
ランダムフォレスト回帰
sklearn.ensemble.RandomForestRegressor
ランダムフォレスト分類器
sklearn.ensemble.RandomForestClassifier