受託開発で直面するPoCからMLOpsへの壁とその乗り越え方

Transcript

1. ©Fusic Co., Ltd. 1 @xthixsl_ml 佐藤 礼央奈 X: @xthixsl_ml 2025.09.17 受託開発で直面するPoCからMLOpsへの壁とその乗り越え方 JAWS-UG AI/ML #31：Generative AI / ML LT大会
2. ©Fusic Co., Ltd. 2 佐藤 礼央奈 R E O N A S A T O 東京の大学を卒業。在学中エンジニアとして3社で約2年半の長期インタ ーンを経験。機械学習や生成AIの研究開発に携わる中で、MLモデルの 本番運用に興味を持ちMLOpsに関心を深める。生成AIも取り入れた開 発や、AWSパートナー企業での経験から、同領域に強みを持つFusicに 魅力を感じ、2025年に新卒入社。 自己紹介 はじめに 株式会社Fusic エンジニア
3. ©Fusic Co., Ltd. 3 1. MLOpsの基本概念 2. PoCから本番環境への壁 3. 解決策 4. まとめ
4. ©Fusic Co., Ltd. 4 MLOpsの基本概念 1
5. ©Fusic Co., Ltd. 5 • MLOps = Machine Learning Operations • 機械学習のライフサイクルを継続的・効率的に回す仕組み • データ収集・前処理 • 学習・評価 • デプロイ・監視・再学習 • DevOps(SRE) + データと機械学習モデルのCI/CD + CT（継続的なトレーニング） 1.MLOpsの基本概念 データ収集 前処理 トレーニング 評価 デプロイ 監視 モデル確認 モデル 精度低下 データサイエンスティスト 機械学習エンジニア MLOpsエンジニア
6. ©Fusic Co., Ltd. 6 1.MLOpsの基本概念 https://aws.amazon.com/blogs/machine-learning/mlops-foundation-roadmap-for-enterprises-with-amazon-sagemaker/
7. ©Fusic Co., Ltd. 7 PoCから本番環境への壁 2
8. ©Fusic Co., Ltd. 8 • PoCの典型的な姿 • notebookに散らばったコード • セルの実行順序に依存 • 環境設定が不明確 • Pythonのライブラリバージョンが明示的に指定がない • CUDAの依存関係 • ドキュメントが不十分 • 再現性がない • 「私の環境では動く」 • データのバージョン管理なし • ハイパーパラメータの記録なし 2.PoCから本番環境への壁 仕組みを作って 事業やプロダクト価値を作る
9. ©Fusic Co., Ltd. 9 • 受託開発する上で時間とリソースは限られる • そもそもどこまでするの？ • データの前処理〜推論までのパイプライン構築 • モデル開発 • 推論方式 リアルタイム or バッチ処理 • 推論 • レイテンシ許容時間 • 同期処理？非同期処理 • エッジデバイス -> 結果をクラウド上に保存? • クラウド上で完結 • CPU or GPU? 2.PoCから本番環境への壁
10. ©Fusic Co., Ltd. 10 • 自分の例：金融時系列解析専門 • 他の領域は少ししかしらない • 短期間でキャッチアップが必要 2.PoCから本番環境への壁
11. ©Fusic Co., Ltd. 11 解決策 3
12. ©Fusic Co., Ltd. 12 • 受託開発する上で時間とリソースは限られる • そもそもどこまでするの？ • データの前処理〜推論までのパイプライン構築 • モデル開発 • モデル実験管理 • SageMaker Experiments • マネージドMLFlow 3.解決策 https://mlflow.org/docs/latest/ml/
13. ©Fusic Co., Ltd. 13 • 受託開発する上で時間とリソースは限られる • 推論方式 リアルタイム or バッチ処理 • 推論 • レイテンシ許容時間 • 同期処理 • 非同期処理 3.解決策
14. ©Fusic Co., Ltd. 14 • 受託開発する上で時間とリソースは限られる • 推論方式 リアルタイム or バッチ処理 • 推論 • レイテンシ許容時間 • 同期処理 • 非同期処理 3.解決策
15. ©Fusic Co., Ltd. 15 • 受託開発する上で時間とリソースは限られる • 推論方式 リアルタイム or バッチ処理 • 推論 • レイテンシ許容時間 • 同期処理 • 非同期処理 • エッジデバイス -> 結果をクラウド上に保存? • AWS IoT Core • CPU or GPU • SageMaker Processing • AWS Lambda 3.解決策
16. ©Fusic Co., Ltd. 16 従来のnotebook • セルの実行順序に依存 • notebook上の変数はグローバル変数で、明示的に削除するかカーネルを再起動しないとメモリに残る marimoの利点 • セル依存をなくす • 再現性を担保 • セルを変更するとそれに依存するセルが自動実行されるため、コードの整合性を保ち再現性を担保 • Marimoで作成されたノートブックは通常のPythonモジュールとしても機能し、他のスクリプトから import して関数やクラスを利用可能 notebook → Marimo https://marimo.io/
17. ©Fusic Co., Ltd. 17 まとめ 4
18. ©Fusic Co., Ltd. 18 まとめ Point.01 Point.02 Point.03 再現性の担保から「MLOpsの基盤作り」 モデルの推論方法はレイテンシー次第 MLOpsやってる方お話しましょう
19. ©Fusic Co., Ltd. 19 Thank You We are Hiring! https://recruit.fusic.co.jp/ ご清聴いただきありがとうございました