QA4AIに則ったMLOpsツールの活用

2022年 年忘れ! MLOps LT大会!!!(https://mlops.connpass.com/event/265378/)で発表した資料です

Transcript

1. 1 QA4AIに則ったMLOpsツールの活用 宇佐見一平
2. 2 名前: 宇佐見 一平 略歴:2017-04 新卒でメーカーに入社 　2019-03 HACARUSに転職 職務内容:外観検査プロダクトの開発 趣味 :テレビゲーム、Spotifyで音楽巡り 社会人アメフトチームの分析スタッフとしても活動 自己紹介
3. 3 会社紹介 Mission 次世代の“はかる”をあらゆる産業へ • ロボット制御アプリ開発 • 異常検知ライブラリの開発 • 異常検知ライブラリを ノーコードで実行できる クラウドアプリケーション開発 • 診断/治療支援AI開発 • 創薬工程の効率化AI開発 • ライブラリをノーコードで実行 できるクラウド アプリケーション開発
4. 4 AIプロダクト品質保証ガイドライン（QA4AIガイドライン）を用いた AIプロダクトの品質保証 （2021年MLOpsアドベントカレンダー） 今日話すこと（の細かい話）
5. 5 AIプロダクトとMLOpsツールの関係 AIプロダクトにおける課題 MLOpsツール 個人の知見？ チームの経験？ どう繋ぐか？
6. 6 QA4AI（AIプロダクト品質保証ガイドライン） Customer Expectation System Quality Model Robustness Process Agility Data Integrity
7. 7 QA4AI（AIプロダクト品質保証ガイドライン） Customer Expectation System Quality Model Robustness Process Agility Data Integrity
8. 8 チェックリストによる採点 Data Integrity a (i).... (ii)... b (i)... Model Robustness a (i)... b (ii)... …
9. 9 MLOpsツールとの関係性 Data Integrity a (i).... (ii)... b (i)... Model Robustness a (i)... b (ii)... … ツールXのYという機能で 解決できるのでは？ ツール主導から課題主導へ
10. 10 • Process Agility「回復の迅速性」 • Model Robustness「モデルの陳腐化への考慮」 →MLflow Model Registryを用いてモデルを管理、 Trackingを用いて過去の実験状態をみて復元対象を決定 MLOpsツールの適用例
11. 11 • Data Integrity 「学習データの量の十分性」、「学習データの妥当性」 • Model Robustness 「学習過程の妥当性」 →DVCのパイプラインによる前処理の設定、 CMLで可視化した結果を残す MLOpsツールの適用例 https://cml.dev/doc/cml-with-dvc
12. 12 レーダーチャートによる採点 Customer Expectation System Quality Model Robustness Process Agility Data Integrity Customer Expectation System Quality Model Robustness Process Agility Data Integrity
13. 13 開発時期による基準の設定 Customer Expectation System Quality Model Robustness Process Agility Data Integrity リリースタイミング α→β→正式
14. 14 14 ご視聴ありがとうございました！ ソフトウェアエンジニア、データサイエンティスト募集中です https://www.wantedly.com/companies/hacarus