Lock in $30 Savings on PRO—Offer Ends Soon! ⏳
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Hydra, MLflow, Optunaの組み合わせで手軽に始めるハイパーパラメータ管理
Search
Taiki Nakamura
June 26, 2021
Programming
7
3.9k
Hydra, MLflow, Optunaの組み合わせで手軽に始めるハイパーパラメータ管理
Optuna meetup #1 で使用した資料です.
Taiki Nakamura
June 26, 2021
Tweet
Share
More Decks by Taiki Nakamura
See All by Taiki Nakamura
【ICASSP2024】音声変換に関する全論文まとめ【Parakeet株式会社】
supikiti
0
780
研究会発表資料.pdf
supikiti
4
670
DDPM解説スライド.pdf
supikiti
0
4.1k
音声B紹介ポスター@音響学会ビギナーズセミナー
supikiti
1
380
hydra-mlflow-optuna
supikiti
4
6.7k
Interspeech2020_読み会_nakamura
supikiti
0
590
Other Decks in Programming
See All in Programming
第5回日本眼科AI学会総会_AIコンテスト_3位解法
neilsaw
0
140
[JAWS-UG横浜 #76] イケてるアップデートを宇宙いち早く紹介するよ!
maroon1st
0
370
42 best practices for Symfony, a decade later
tucksaun
1
140
Develop iOS apps with Neovim / vimconf_2024
uhooi
1
320
Modular Monolith Monorepo ~シンプルさを保ちながらmonorepoのメリットを最大化する~
yuisakamoto
11
4k
The Efficiency Paradox and How to Save Yourself and the World
hollycummins
1
240
Missing parts when designing and implementing Android UI
ericksli
0
390
StarlingMonkeyを触ってみた話 - 2024冬
syumai
2
190
Refactor your code - refactor yourself
xosofox
1
170
Recoilを剥がしている話
kirik
3
4.8k
eBPF Deep Dive: Architecture and Safety Mechanisms
takehaya
12
1.3k
AWS認定資格を勉強した先に何があったか
satoshi256kbyte
2
190
Featured
See All Featured
ReactJS: Keep Simple. Everything can be a component!
pedronauck
665
120k
What's in a price? How to price your products and services
michaelherold
243
12k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
10
790
Why Our Code Smells
bkeepers
PRO
334
57k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
8
1.2k
Rebuilding a faster, lazier Slack
samanthasiow
79
8.7k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
191
16k
Visualization
eitanlees
145
15k
Build The Right Thing And Hit Your Dates
maggiecrowley
33
2.4k
Automating Front-end Workflow
addyosmani
1366
200k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
251
21k
Become a Pro
speakerdeck
PRO
25
5k
Transcript
)ZESB .-GMPX 0QUVOBͷΈ߹ΘͤͰ खܰʹ࢝ΊΔϋΠύʔύϥϝʔλཧ ౦େӃɾใཧ म࢜՝ఔ தଜହوʢͳ͔ΉΒ ͍͖ͨʣ 1
0QUVOB .FFUVQ
/27 ࣗݾհ 2 ▪ ϓϩϑΟʔϧ • ౦େେֶӃ ใཧ Ԑɾখࢁݚ
. • Ի߹ ࣭มٕज़Λීஈݚڀ͍ͯ͠·͢ • 5XJUUFS!TVQJLJUJ ʢΞΠίϯɿӈਤʣ ▪ ొஃཧ༝ • Ҏલ NFEJVNDPNPQUVOB ʹͯຊൃදͱಉ͡ʹͯࣥච • &BTZ)ZQFSQBSBNFUFS.BOBHFNFOUXJUI)ZESB .-GMPX BOE0QUVOB • )ZESB .-GMPX 0QUVOBͷΈ߹ΘͤͰखܰʹ࢝ΊΔϋΠύʔ ύϥϝʔλཧ
/27 ຊͷ༰ 3 ▪ հ͢Δ͜ͱ • )ZESB .-GMPX 0QUVOB Λ༻͍ͨޮతͳϋΠύϥཧ
• ͦΕͧΕͷ୯ମͰͷ͍ํ Έ߹Θͤͨ۩ମతͳ͍ํ ▪ հ͠ͳ͍͜ͱ • ͦΕͧΕͷϥΠϒϥϦͷΈ ෦ಈ࡞ ◦ ૉਓͳͷͰʜ ▪ ຊͷڞ༗ࢿྉ [PPNͷνϟοτཝʹܝࡌ ▪ αϯϓϧίʔυͪ͜Β
ϋΠύϥཧ
/27 ϋΠύϥཧͷํ๏ 5 "SHQBSTF ʹΑΔཧ IQBSBNQZ ʹΑΔཧ
/27 ϋΠύϥཧͷ 6 ▪ BSHQBSTFʹΑΔϋΠύϥཧ • ԟʑʹͯ͠ઃఆ͢ΔϋΠύϥ͕େʹͳΓ͕ͪ • ͲͷϋΠύϥ͕ NPEFMQSFQSPDFTTͳͲʹରԠ͢Δ͔ݟͮΒ͍
▪ ઃఆϑΝΠϧΛ༻͍ͨϋΠύϥཧ • ϋΠύϥมߋͷͨͼʹઃఆϑΝΠϧΛฤू͋Δ͍࡞ ▪ )ZESB .-GMPX 0QUVOBʹΑΔϋΠύϥཧ • ઃఆύϥϝʔλΛίϚϯυϥΠϯ͔Βछྨมߋ ࣮ߦՄೳ • ϋΠύϥͷάϦουαʔν͕༰қʹՄೳ छྨͷཧ͕༰қ • ڧྗͳϋΠύϥ୳ࡧΛίϚϯυϥΠϯ͔Βར༻Մೳ
)ZESB
/27 8 ▪ ಛ • 'BDFCPPL"*3FTFBSDI͕ެ։͍ͯ͠Δύϥϝʔλཧπʔϧ • ύϥϝʔλΛ֊ཱͯͯߏతʹ :".-ϑΝΠϧʹهड़ •
ίϚϯυϥΠϯ͔ΒઃఆΛ্ॻ͖ ࣮ߦ • ϋΠύϥͷछྨͷάϦουαʔνΛ ߦͰ࣮ߦՄೳ IUUQTIZESBDD )ZESBʹ͍ͭͯ
/27 جຊతͳ͍ํ 9 • ཧ͍ͨ͠ϋΠύϥΛ ZBNM ܗࣜͰ $POGJHϑΝΠϧهड़
/27 جຊతͳ͍ํ 10 • ؔʹσίϨʔλΛ͢͜ͱͰ͔ؔΒϋΠύϥࢀরՄೳ
/27 جຊతͳ͍ํ 11 ▪ ίϚϯυϥΠϯ͔Βͷͷมߋ ࣮ߦ • ϋΠύϥͷΛௐͯ͠࠶࣮ߦ͍ͨ͠߹ίϚϯυϥΠϯ͔Β ϋΠύϥͷΛมߋͯ͠ϓϩάϥϜΛ࠶࣮ߦՄೳ
/27 جຊతͳ͍ํ 12 ▪ ϋΠύϥͷάϦουαʔν • छྨͷϋΠύϥΛॱʹ༻͍࣮ͯߦ͍ͨ͠߹ɼ$POGJHΛ ॻ͖͑Δ͜ͱͳ͘ίϚϯυϥΠϯ͔ΒࢦఆՄೳ • ࢦఆͨ͠ϋΠύϥͷΈ߹ΘͤͷʹԠ࣮ͯ͡ߦ
/27 جຊతͳ͍ํ 13 ▪ )ZESBͷϋΠύϥࣗಈอଘػೳ • ࣮ߦ͝ͱͷઃఆ࣮ߦதͷग़ྗΛࣗಈͰอଘ͞ΕΔػೳ • 0VUQVUTσΟϨΫτϦʹ࣮ߦ࣮ߦຖछʑͷઃఆϑΝΠϧ͕ ࣗಈอଘ
• อଘܗࣜͷՄಡੑ͕͘ϋΠύϥൺֱ͕Ͱ͖ͳ͍ʢࠨਤʣͨΊ .-GMPX Λಋೖ͜͠ΕΛվળʢӈਤʣ
.-GMPX
/27 .-GMPXͷجຊతͳ͍ํ 15 ▪ .-GMPX ͱ • ػցֶशϥΠϑαΠΫϧΛ࣮ݱ͢ΔΦʔϓϯιʔε • )ZESB
ͱΈ߹ΘͤϋΠύϥͷཧ อଘ ൺֱ͕༰қʹ • ຊൃදͰ .-GMPX 5SBDLJOHΛ༻͍ͨϋΠύϥཧΛհ ▪ .-GMPX 5SBDLJOH • ػցֶशͳͲͷϋΠύϥͷϩΪϯά MPTTBDDVSBDZͳͲͷ ϝτϦΫε ग़ྗϑΝΠϧͳͲͷཧΛิॿ͢Δ "1*Λఏڙ • QJQͰΠϯετʔϧՄೳ
/27 جຊతͳ͍ํ 16 ▪ ϋΠύϥͷͱه • .-GMPX ͕ఏڙ͢ΔϩΪϯάؔΛ༻͍ͯϋΠύϥΛهՄೳ start_run() runID
の発行 log_param() ハイパラの登録 log_metric() メトリックの記録 log_artifact() 出力されたファイル等の記録 … mlflow ui localserver:5000でGUI
17 )ZESBͱ .-GMPX ͷ࣮ྫ
18 hydra.mainデコレータ パラメータの登録 (log_params()) メトリックの登録
19 શࢼߦաఔ͕ࣗಈอଘ ൺֱՄೳ MPTT BDDVSBDZ
/27 )ZESB .-GMPX ·ͱΊ 20 ▪ )ZESB • 'BDFCPPL"*3FTFBSDI͕ެ։͍ͯ͠Δύϥϝʔλཧπʔϧ •
ίϚϯυϥΠϯ͔ΒઃఆΛෳมߋ ࣮ߦՄೳ ▪ .-GMPX • ػցֶशͷ࣮ݧཧΛࣗಈͰߦ͏πʔϧ • (6*্Ͱύϥϝʔλͷҧ͍ʹΑΔ݁Ռͷൺֱ͕༰қʹՄೳ ▪ )ZESB .-GMPX 0QUVOB • )ZESBͷϓϥάΠϯΛར༻ͨ͠ 0QUVOB ͷಋೖํ๏Λղઆ
0QUVOB
/27 0QUVOB ͷಋೖ 22 ▪ 0QUVOB ͱ • ΦʔϓϯιʔεͷϋΠύϥࣗಈ࠷దԽϑϨʔϜϫʔΫ •
ϋΠύϥͷʹؔ͢ΔࢼߦࡨޡΛࣗಈԽ • ༏ΕͨੑೳΛൃش͢ΔϋΠύϥͷΛࣗಈతʹൃݟ ▪ )ZESB .-GMPX 0QUVOB • )ZESBͷ 0QUVOB 4XFFQFSϓϥάΠϯΛ༻͢Δ͜ͱͰ )ZESBͰઃఆͨ͠มͷ୳ࡧΛίϚϯυϥΠϯ͔Β࣮ࢪՄೳ • ࠷దԽ͞ΕΔมͱ݅ΛίϚϯυϥΠϯ͔ΒมߋՄೳ
/27 ઃఆϑΝΠϧͷՃ 23 )ZESBͷઃఆϑΝΠϧ0QUVOB ʹؔ͢Δ ۩ମతͳઃఆ߲ΛՃͰॻ͖͜Ή͚ͩ ࡉ͔ͳ 0QUVOB ͷઃఆ߲ΛมߋՄೳ l
EJSFDUJPO ධՁؔΛ࠷খԽ PS࠷େԽ l O@USJBMT୳ࡧճͷઃఆ l /@KPCTฒྻϫʔΧʔͷ l ʜ
/27 NBJOؔͰͷมߋ 24 • σίϨʔλͰͨؔ͠ͷฦΓΛ࠷దԽ͢Δతมʹઃఆ • ҎԼͷίʔυ BDDVSBDZΛ࠷େԽ͍ͨ͠߹ͷྫ
/27 ୳ࡧൣғͷࢦఆ 25 • ίϚϯυϥΠϯ͔Β࠷దԽ͍ͨ͠ม͓ΑͼൣғΛࢦఆ • ҎԼͰ PQUJNJ[FS ͷֶशͱϞσϧͷϊʔυΛ୳ࡧ ◦
DIPJDFΧςΰϦܕͷมม͞ΕΔͨΊ PQUJNJ[FS ͷ ֶश छྨ୳ࡧ͞ΕΔ ◦ SBOHF ܕͷมม͞ΕΔͨΊ NPEFMOPEF ͕ < >ͷൣғ͔ͭͷ݅Ͱ୳ࡧ͞ΕΔ ◦ ଞʹ༷ʑͳʹରԠ͍ͯ͠Δ͕͜͜ͰׂѪ
/27 .-GMPXͰͷՄࢹԽ 26 • 0QUVOB Ͱ୳ࡧ͞ΕͨϋΠύϥͷ͓ΑͼతؔͷΛ .-GMPX Ͱߏஙͨ͠ϩʔΧϧαʔόʔ্Ͱ֬ೝՄೳ
/27 ૯·ͱΊ 27 ▪ )ZESB .-GMPX 0QUVOB • ֶश࣌ʹࡶʹͳΓ͕ͪͳύϥϝʔλཧͷܾఆ൛ •
)ZESBͱ 0QUVOB ͰύϥϝʔλΛ༰қʹมߋɾ୳ࡧ͠ .-GMPX ͰશύϥϝʔλΛҰݩཧ ▪ ͞Βʹֶͼ͍ͨํʹ • ,FESP8PSLGMPXͷύΠϓϥΠϯཧπʔϧ ◦ )ZESB .-GMPX 0QUVOB ,FESP ◦ ΑΓ࠶ݱੑͷ͋Δ͍ճ͠Λҙࣝͨ͠ίʔυʹ https://github.com/quantumblacklabs/kedro
/27 ࢀߟࢿྉ 28 • IUUQTDZCFSBHFOUBJCMPHSFTFBSDI • IUUQTZNZNIBUFOBCMPHDPNFOUSZ • IUUQT[FSFCPNIBUFOBCMPHDPN)ZESB
• IUUQTTQFBLFSEFDLDPNDIDLTPLYJBPTBLVTIJNFUFEB LJLVZVUFSVNMPQT