Upgrade to Pro — share decks privately, control downloads, hide ads and more …

scikit-learnとTFによる実践機械学習4.1-4.2 / Hands-On Mach...

Linus_MK
June 15, 2018

scikit-learnとTFによる実践機械学習4.1-4.2 / Hands-On Machine Learning with Scikit-Learn and TensorFlow 4.1-4.2

2018年6月15日
「scikit-learnとTensorFlowによる実践機械学習輪読会#4」にて発表
https://data-refinement.connpass.com/event/91067/

Linus_MK

June 15, 2018
Tweet

More Decks by Linus_MK

Other Decks in Technology

Transcript

  1. 線形回帰モデル = 0 + 1 1 + 2 2 +

    ⋯ + = T ⋅ = ℎ () yの予測値 仮説関数
  2. 正規方程式の計算量と問題点 正規方程式 = T ⋅ −1 ⋅ T ⋅ 問題点

    • n(特徴量の数)が大きいと計算時間がかかる • 全てのインスタンスのデータをメモリに乗せる必要 →正規方程式を解けないときは勾配降下法が使える。 n次正方行列
  3. バッチ勾配降下法 降下方向(勾配)を求めるために各変数で偏微分 MSE = 1 =1 T ⋅ − 2

    MSE = 2 =1 T ⋅ − () 関数の勾配ベクトルは MSE = 2 T ⋅ ( ⋅ − )