Upgrade to Pro — share decks privately, control downloads, hide ads and more …

【1/3】GMOペパボ機械学習研修2022 資料

watasan
August 19, 2022

【1/3】GMOペパボ機械学習研修2022 資料

GMOペパボの新卒エンジニア向けに実施した機械学習研修全3日間のうち1日目の資料です。

機械学習(主に教師あり学習)の導入として、初学者向けの解説をしています。

2日目の資料(「再帰化」と機械学習について)
https://speakerdeck.com/ae14watanabe/3-gmopepaboji-jie-xue-xi-yan-xiu-2022-zi-liao

3日目の資料(機械学習とサービスの連携事例紹介)
https://speakerdeck.com/ae14watanabe/gmopepaboji-jie-xue-xi-yan-xiu-2022-zi-liao-3ri-mu-quan-3ri-jian

3日間の資料のpdf版は以下にも置いています。
https://github.com/pepabo/training/tree/master/data-and-machine-learning/2022/machine_learning

watasan

August 19, 2022
Tweet

More Decks by watasan

Other Decks in Programming

Transcript

  1. 2 1. 研修ガイダンス (5 min) 2. 機械学習イントロダクション(20 min) 3. Let’s

    ハンズオン!(140 min) 4. 学んだことを各自まとめる(10 min) Day1 アジェンダ
  2. 3 ガイダンス|研修の目的 機械学習研修の目的はこれだ! サービス価値の向上のために「再帰化」を実現する上で、 実装手段として機械学習を検討できるようになる。 • 目的の背景:ペパボのエンジニアとして機械学習を学ぶ動機は、          機械学習を「再帰化」の実現アプローチとして利用することにある •

    サービス価値の向上において「再帰化」は重要な考え方[栗林2022] • 「再帰化 ≠ 機械学習の利用」であることを理解して 再帰化を実現するために機械学習の利用するか否かを判断できることを目指す [栗林2022] GMOペパボが考えるこれからのサービス開発(p.10より引用) https://speakerdeck.com/kentaro/toward-the-next-service-development-era?slide=10
  3. 4 ガイダンス|カリキュラム 研修目的を達成するために以下のカリキュラムを設定しています サービス価値の向上のために「再帰化」を実現する上で、 実装手段として機械学習を検討できるようになる。 研修の目的 ゴール 実施内容 Day1 機械学習とは何か、

    自分の言葉で説明できる - 機械学習イントロダクション(座学) - Machine Learning Crash Course (ハンズオン) Day2 再帰化を実現するために、 機械学習をどう活用できるか イメージできる - Machine Learning Crash Course (ハンズオン) - 再帰化と機械学習(座学) Day3 サービスの実課題を 機械学習で解決する 一連の流れの例を挙げられる - Machine Learning Crash Course (ハンズオン) - 機械学習のサービス連携事例紹介(座学)
  4. 6 1. 研修ガイダンス 2. 機械学習イントロダクション(20 min) a. ざっくりとした「機械学習とは何か」 b. 予測タスクからイメージする機械学習

    c. 機械学習で取り組むタスクいろいろ 3. Let’s ハンズオン!(140 min) 4. 学んだことを各自まとめる(10 min) Day1 アジェンダ
  5. 9 何か解きたいタスクがあるとして、機械学習では以下の手順を踏む アルゴリズムでタスクを解くために、 人間によるデータの用意やタスクの落とし込みが必要となる a. ざっくりとした「機械学習とは何か」 1. データを用意する 2. アルゴリズムが解ける形に

    タスクを落とし込む 3. アルゴリズムで タスクを解く ↑人間がやる (自動化はできるがどういうデータを 収集するかは人間が決める) ↑人間がやる ↑コンピュータがやる (アルゴリズムをプログラムとして 実装しコンピュータ上で実行する) ※意外と人間がやることは多いです(機械学習に全部お任せ!ではない)
  6. 10 何か解きたいタスクがあるとして… これから「予測タスク」を題材に、以下の流れの具体例を見ていきます! b. 予測タスクからイメージする機械学習|以降の話の流れ 1. 予測に役立つ データを用意する 2. アルゴリズムが解ける形に

    予測タスクを落とし込む 3. アルゴリズムが 予測タスクを解く ↑人間がやる (自動化はできるがどういうデータを 収集するかは人間が決める) ↑人間がやる ↑コンピュータがやる (アルゴリズムをプログラムとして 実装し、コンピュータ上で実行する) ※意外と人間がやることは多いです(機械学習に全部お任せ!ではない)
  7. 11 b. 予測タスクからイメージする機械学習|想定するタスク • 想定:あなたは新しく開店するアイスクリーム屋の店長です • 願望:毎日の在庫管理を過不足なく行いたい • 着想: •

    「気温が高いとアイスクリームの売れ行きが上がる」という関係がありそう • 気温からアイスへの支出額の予想ができたら、在庫管理に有用なのでは? その日の気温からアイスクリームへの支出額を予測したい、というタスクを想定する
  8. 17 b. 予測タスクからイメージする機械学習|アルゴリズムで解けるように予測タスクを落とし込む① 関数をより具体的に数式で表現する(モデル化) • このモデルにおいてタスク「予測=関数獲得」は「パラメータw,bを求める」になる ◦ 推定対象を具体的に定式化することで、アルゴリズムで解きやすくなる 関数は傾きw, 切片bの

    一次関数であると仮定し それぞれフリーパラメータとする 横軸x • 気温xと消費額yの関係(モデル)を以下のように定義する(この手順をモデル化と呼ぶ) 縦 軸 y w, bを変化させると 関数が変化する 図の参照元: [岡崎2022] 機械学習帳 - 1.単回帰 https://chokkan.github.io/mlnote/regression/01sra.html
  9. 21 b. 予測タスクからイメージする機械学習|予測の実行手順のバリエーション 各手順において複数の選択肢があるため、良い予測のためには試行錯誤が必要 手順 データに対するパラメータのあああ 評価指標 (損失関数) を定義する データを用意する

    モデル化 アルゴリズムで最適化する 検討事項の例 考えられる選択肢の例 • 気温に加えて湿度も考慮するああああああああ  (入力xをベクトルとする)など • 2次以上の多項式 • 複数の周波数を持つ正弦波と余弦波の線形和 • ニューラルネットワーク            など • 残差の二乗ではなく絶対値を使う • 二乗誤差の総和+正則化項とする など • 様々な勾配法のアルゴリズムああああああああ e.g. 共役勾配法, Adam, Momentum など どの最適化アルゴリズムを用いるか? どのような損失関数にするか? どのようなモデルにするか? 予測に効きそうな他の入力xは?
  10. 22 c. 機械学習で取り組むタスクいろいろ その他のタスク • 強化学習 • 協調フィルタリング、異常検出などなどなど… 機械学習で解くタスクはさまざまある(関数獲得ばかりではない) 出力yの取る値

    連続値 離散値 データ中に 教師yが あるか? ある 回帰 (Regression) 分類 (Classification) ない 次元削減 (Dimensionality Reduction) クラスタリング (Clustering) どちらも予測=関数獲得タスク まとめて「教師あり学習」と呼ぶ (前述のアイスクリームの例は回帰)
  11. 23 1. 研修ガイダンス 2. 機械学習イントロダクション(20 min) a. ざっくりとした「機械学習とは何か」 b. 予測タスクからイメージする機械学習

    c. 機械学習で取り組むタスクいろいろ 3. Let’s ハンズオン!(140 min) 4. 学んだことを各自まとめる(10 min) Day1 アジェンダ
  12. 24 • Machine Learning Crash Course • Software Engineerが 機械学習の理論・実装を

    学ぶためのハンズオン • 今日進めて欲しい単元 • ML concepts - Introduction to ML (3 min) • Framing (15 min) • Descending into ML (20 min) • Reducing loss (60 min) • First steps with tf (65 min) • 進められるところまで! 手を動かしながら機械学習を学んでいきましょう! Let’s ハンズオン
  13. 25 • ハンズオン資料は英語です • 動画は飛ばしてください! ※”Introduction to ML” は除く •

    休憩を適宜取ってください • 早く終わった場合はどんどん先に進んで大丈夫です! • Day1ゴール「機械学習とは何か、自分の言葉で説明できる」が達成できるようにがんばりましょう! 進める上での注意点 Let’s ハンズオン
  14. 26 1. 研修ガイダンス 2. 機械学習イントロダクション(20 min) a. ざっくりとした「機械学習とは何か」 b. 予測タスクからイメージする機械学習

    c. 機械学習で取り組むタスクいろいろ 3. Let’s ハンズオン!(140 min) 4. 学んだことを各自まとめる(10 min) Day1 アジェンダ
  15. 27 • 以下のことをまとめてみてください〜! • 学んだこと • 感じたこと • 考えたこと •

    「機械学習を自分の言葉で説明」にトライしてみてください! 学んだことをまとめる時間 クロージング