Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
QA4AIに則ったMLOpsツールの活用
Search
Hacarus Inc.
December 14, 2022
Technology
0
600
QA4AIに則ったMLOpsツールの活用
2022年 年忘れ! MLOps LT大会!!!(
https://mlops.connpass.com/event/265378/)で発表した資料です
Hacarus Inc.
December 14, 2022
Tweet
Share
More Decks by Hacarus Inc.
See All by Hacarus Inc.
GitLab CI/CD で C#/WPFアプリケーションのテストとインストーラーのビルド・デプロイを自動化する
hacarus
0
830
0から協働ロボット外観検査システムを3ヵ月で具現化した軌跡
hacarus
0
150
ワンちゃんの健康を願う皆様に送る 犬心電図AI解析プロダクト紹介_AWS DevDay2022
hacarus
0
130
犬の心電AI解析プロダクト開発奮闘記 _クラウドからハード開発までてんこ盛り
hacarus
0
1.5k
ExplainableAIの概要とAmazon SageMaker Clarifyでの実装例
hacarus
0
730
AWS Step Functions を用いた非同期学習処理の例
hacarus
0
800
Dashでmyダッシュボードを作ろう ーpytrendsで見るコロナの感染拡大時期ー
hacarus
0
1.1k
Interpretable Machine Learning: モデル非依存な解釈手法の紹介
hacarus
0
850
時系列データ予測手法の宇宙天気予報への応用
hacarus
0
1.1k
Other Decks in Technology
See All in Technology
[RSJ24] Object Segmentation from Open-Vocabulary Manipulation Instructions Based on Optimal Transport Polygon Matching with Foundation Models
keio_smilab
PRO
0
120
夏休みの(最後の)宿題 for JuliaTokyo #12
antimon2
0
130
RAGHack: Kickoff and RAG 101
pamelafox
0
200
Zero Data Loss Autonomous Recovery Service サービス概要
oracle4engineer
PRO
0
3.1k
Oracle Exadata Database Service(Dedicated Infrastructure):サービス概要のご紹介
oracle4engineer
PRO
0
9.3k
脆弱星に導かれて
nishimunea
1
1.5k
実践的なバグバウンティ入門
scgajge12
4
2.1k
開発者体験を意識した開発チームの生産性向上の取り組み
ham0215
3
650
データウェアハウス製品のSnowflakeでPythonが動くって知ってました?
foursue
1
150
中規模・ミドルTier開発組織におけるDevRelの戦略と実行と成果 - DevRel Guild Conference Mini -
leveragestech
2
260
手軽に始める? おうちサーバーのすゝめ
nyagasan
0
180
#Zenoh 完全に理解した 〜組込み純情篇〜
takasehideki
1
450
Featured
See All Featured
Why You Should Never Use an ORM
jnunemaker
PRO
53
8.9k
Mobile First: as difficult as doing things right
swwweet
220
8.8k
Facilitating Awesome Meetings
lara
49
5.9k
Robots, Beer and Maslow
schacon
PRO
157
8.1k
Embracing the Ebb and Flow
colly
83
4.4k
Designing Experiences People Love
moore
138
23k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
226
52k
How To Stay Up To Date on Web Technology
chriscoyier
785
250k
Code Review Best Practice
trishagee
62
16k
The Brand Is Dead. Long Live the Brand.
mthomps
53
37k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
24
2k
Build The Right Thing And Hit Your Dates
maggiecrowley
29
2.2k
Transcript
1 QA4AIに則ったMLOpsツールの活用 宇佐見一平
2 名前: 宇佐見 一平 略歴:2017-04 新卒でメーカーに入社 2019-03 HACARUSに転職 職務内容:外観検査プロダクトの開発 趣味
:テレビゲーム、Spotifyで音楽巡り 社会人アメフトチームの分析スタッフとしても活動 自己紹介
3 会社紹介 Mission 次世代の“はかる”をあらゆる産業へ • ロボット制御アプリ開発 • 異常検知ライブラリの開発 • 異常検知ライブラリを
ノーコードで実行できる クラウドアプリケーション開発 • 診断/治療支援AI開発 • 創薬工程の効率化AI開発 • ライブラリをノーコードで実行 できるクラウド アプリケーション開発
4 AIプロダクト品質保証ガイドライン(QA4AIガイドライン)を用いた AIプロダクトの品質保証 (2021年MLOpsアドベントカレンダー) 今日話すこと(の細かい話)
5 AIプロダクトとMLOpsツールの関係 AIプロダクトにおける課題 MLOpsツール 個人の知見? チームの経験? どう繋ぐか?
6 QA4AI(AIプロダクト品質保証ガイドライン) Customer Expectation System Quality Model Robustness Process Agility
Data Integrity
7 QA4AI(AIプロダクト品質保証ガイドライン) Customer Expectation System Quality Model Robustness Process Agility
Data Integrity
8 チェックリストによる採点 Data Integrity a (i).... (ii)... b (i)... Model
Robustness a (i)... b (ii)... …
9 MLOpsツールとの関係性 Data Integrity a (i).... (ii)... b (i)... Model
Robustness a (i)... b (ii)... … ツールXのYという機能で 解決できるのでは? ツール主導から課題主導へ
10 • Process Agility「回復の迅速性」 • Model Robustness「モデルの陳腐化への考慮」 →MLflow Model Registryを用いてモデルを管理、
Trackingを用いて過去の実験状態をみて復元対象を決定 MLOpsツールの適用例
11 • Data Integrity 「学習データの量の十分性」、「学習データの妥当性」 • Model Robustness 「学習過程の妥当性」 →DVCのパイプラインによる前処理の設定、
CMLで可視化した結果を残す MLOpsツールの適用例 https://cml.dev/doc/cml-with-dvc
12 レーダーチャートによる採点 Customer Expectation System Quality Model Robustness Process Agility
Data Integrity Customer Expectation System Quality Model Robustness Process Agility Data Integrity
13 開発時期による基準の設定 Customer Expectation System Quality Model Robustness Process Agility
Data Integrity リリースタイミング α→β→正式
14 14 ご視聴ありがとうございました! ソフトウェアエンジニア、データサイエンティスト募集中です https://www.wantedly.com/companies/hacarus