Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
機械学習実用化失敗黙示録
Search
shibuiwilliam
April 20, 2022
Programming
0
150
機械学習実用化失敗黙示録
機械学習実用化の失敗経験談
shibuiwilliam
April 20, 2022
Tweet
Share
More Decks by shibuiwilliam
See All by shibuiwilliam
LLMで推論するライブラリを整理する
shibuiwilliam
5
640
生成AIの研究開発を事業につなげる データ、仕組み、コミュニケーション
shibuiwilliam
1
29
デプロイして本番システムで使うことから考えるAI
shibuiwilliam
1
380
今日からRAGを 始めることを考える
shibuiwilliam
2
1.5k
2024年生成AI新年会登壇資料
shibuiwilliam
0
240
Creative as Software Engineering
shibuiwilliam
2
570
Kubernetesクラスターを引き継ぐ技術
shibuiwilliam
3
260
機械学習システム構築実践ガイド
shibuiwilliam
1
770
GPT, Langchain, Faiss, FastAPIを組み合わせた Chat検索システム開発
shibuiwilliam
4
4.2k
Other Decks in Programming
See All in Programming
Mastering AsyncSequence - 使う・作る・他のデザインパターン(クロージャ、Delegate など)から移行する
treastrain
3
1.3k
New Order in Cascade Sorting Order
mugi_uno
3
2.5k
Polars を Kaggle コンペで使ってみた(LMSYS Chatbot Arena)
kohecchi
1
360
Ebitengineの1vs1ゲーム WebRTCの活用
ponyo877
0
330
暴走のウホーレン 〜想いってのはvimrcにしないと伝わらないんだぜ〜 / iosdc_japan_2024
uhooi
1
240
connect-go で面倒くささと戦う / 2024-08-27 #newmo_layerx_go
izumin5210
2
590
TypeScriptで 負荷テストを書こう 〜k6のシングルバイナリの秘密〜
dora1998
7
2.8k
月間4.5億回再生を超える大規模サービス TVer iOSアプリのリアーキテクチャ戦略 - iOSDC2024
techtver
PRO
1
570
詳解UIWindow
natmark
3
2k
Rubyとクリエイティブコーディングの輪の広がり / The Growing Circle of Ruby and Creative Coding
chobishiba
1
220
From Spring Boot 2 to Spring Boot 3 with Java 22 and Jakarta EE
ivargrimstad
0
940
Swiftで高速フーリエ変換してオーディオビジュアライザーを作る / iOSDC Japan 2024 Day1 Track D
kyome22
2
460
Featured
See All Featured
How to name files
jennybc
75
97k
Side Projects
sachag
451
42k
Designing for humans not robots
tammielis
248
25k
GitHub's CSS Performance
jonrohan
1029
450k
Stop Working from a Prison Cell
hatefulcrawdad
266
20k
Build The Right Thing And Hit Your Dates
maggiecrowley
29
2.2k
A Philosophy of Restraint
colly
202
16k
Building a Scalable Design System with Sketch
lauravandoore
458
32k
Build your cross-platform service in a week with App Engine
jlugia
228
18k
Speed Design
sergeychernyshev
18
400
Agile that works and the tools we love
rasmusluckow
327
20k
Designing on Purpose - Digital PM Summit 2013
jponch
113
6.8k
Transcript
機械学習実用化失敗黙示録 2022/04/20 しぶい
自己紹介 shibui yusuke • いろいろ → Launchable(いまここ) • MLOpsとかいろいろエンジニア •
もともとクラウド基盤の開発、運用 • ここ6年くらいMLOpsとバックエンドとインフラとたまに データ分析とAndroidで仕事 • Github: @shibuiwilliam • FB: yusuke.shibui • Meety: https://meety.net/matches/OPJgijxiEMHE • 最近の趣味:本の執筆と副業と ARとネコ cat : 0.55 dog: 0.45 human : 0.70 gorilla : 0.30 物体検知 2
MLOps勉強会を毎月開催してます! https://mlops.connpass.com/
ワシの失敗談は百八式まであるぞ • 成功の裏には多くの失敗が存在する。 • 成功しなくても多くの失敗は存在する。 • 機械学習の実用化関係の仕事を続けてきて犯した大小の失敗のうち、 代表的な1個を説明します。
機械学習を実用化するためのエンジニアリング 学習 コード 学習 データ 学習 評価 モデル レポート 推論
コード CI テスト データ 評価 コード CD システム A A/B テスト システム B 負荷 試験 ログ 収集 評価 データ ユニット テスト ユニット テスト 機械学習エンジニアが得意 ソフトウェアエンジニアが得意 SREが得意
機械学習を実用化するためのエンジニアリング 学習 コード 学習 データ 学習 評価 モデル レポート 推論
コード CI テスト データ 評価 コード CD システム A A/B テスト システム B 負荷 試験 ログ 収集 評価 データ ユニット テスト ユニット テスト 機械学習エンジニアが得意 ソフトウェアエンジニアが得意 SREが得意 機械学習のエンジニアリングには 機械学習の知識が必要
0->1 フェーズのよくある失敗 全部できるスーパーエンジニアが全部作る ・・・けど作るだけで終わる 機械学習を実用化するためのエンジニアリング 学習 コード 学習 データ 学習
評価 モデル レポート 推論 コード CI テスト データ 評価 コード CD システム A A/B テスト システム B 負荷 試験 ログ 収集 評価 データ ユニット テスト ユニット テスト 機械学習エンジニアが得意 ソフトウェアエンジニアが得意 SREが得意
機械学習黎明期に謎の機械学習システムが出来上がる コード管理 DWH CI CRD 学習 パイプライン ビルド パイプライン マイクロサービス
CRD デプロイ パイプライン CRD 学習 クラスター サービス クラスター cron リソース コントローラ
チームメンバー モチベーション 俺は0->1が得意! 新しいプロダクトを考 えたよ♪ どうにか運用せねば ・・・ 作った人の尻拭いは 嫌だ。無駄に複雑で 不安定だし。
作った人 PdM EM
作り直すことのエンジニアリング • 目標を立てる:チームメンバーが技術選定して小さな変更でまともな運用を目指す ◦ 独自パイプラインCRDをマネージドサービスとサーバレスに寄せる • モチベーションを作る:作ったときに存在しなかった新しい技術を取り入れる ◦ Vertex AIやMLflowの導入
• フルスタックを目指さない:エンジニアとして今得たい技術に集中する ◦ 機械学習Kubernetesクラスターをインフラチームクラスターに移行 • 技術的負債をビジネス的に説明する:運用負荷を下げたほうが開発効率は上がる ◦ 開発vs運用工数の指標化
開発のチームワークはフェーズによって異なる 機械学習 導入開始 実用化 開発自動化 リリース 自動化 機械学習 エンジニア一人 機械学習
エンジニア複数 機械学習エンジニア + バックエンドエンジニア プロダクト別・事業別 チーム 頑張れ! 一番自由な時期! 阿吽の呼吸で わいわい楽しい ♪ 軋轢が生まれ始める コード品質 vs Jupyter 各チームの独自運用 他チームはあまり知らない スーパーエンジニア レガシー企業は 実はこのステージが多い 動いてるけどメンテナンスが 難しいことが多い バックエンドエンジニアの 支援がありがたいフェーズ 素晴らしいチームワーク!
学び • 作りたいものや作ってほしいものが、本当に作るべきものとは限らない。 • 作り直しは必ず発生する。新技術を扱ったプロダクトでは特に。 • 組織とプロダクトのフェーズによって突破志向と安定志向を使い分ける。
昨年出版した本の宣伝 • AIエンジニアのための 機械学習システムデザインパターン • 2021年5月17日発売 • https://www.amazon.co.jp/dp/4798169447/ • 機械学習よりもKubernetesとIstioに詳しくなれる一冊!
• Amazon.co.jp 情報学・情報科学部門 1位! 人工知能部門 1位! • 韓国語版も発売中! • 英語版出したい!