Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
pytorchで機械学習しない
Search
Hata Ryosuke
October 21, 2019
Technology
3
1k
pytorchで機械学習しない
pytorchでマクローリン展開とニュートン法を試してみました。
Hata Ryosuke
October 21, 2019
Tweet
Share
More Decks by Hata Ryosuke
See All by Hata Ryosuke
関西Kaggler会 発表スライド
ryosukehata
1
1k
Monocular 3D Object Detection Survey
ryosukehata
3
460
量子情報勉強会,量子ゲートについて
ryosukehata
0
220
Other Decks in Technology
See All in Technology
YOLOv10~v12
tenten0727
4
960
エンジニアリングで組織のアウトカムを最速で最大化する!
ham0215
1
100
Amazon CloudWatch Application Signals ではじめるバーンレートアラーム / Burn rate alarm with Amazon CloudWatch Application Signals
ymotongpoo
5
530
AIでめっちゃ便利になったけど、結局みんなで学ぶよねっていう話
kakehashi
PRO
0
180
JPOUG Tech Talk #12 UNDO Tablespace Reintroduction
nori_shinoda
2
150
Notion x ポストモーテムで広げる組織の学び / Notion x Postmortem
isaoshimizu
1
120
今日からはじめるプラットフォームエンジニアリング
jacopen
4
230
3月のAWSアップデートを5分間でざっくりと!
kubomasataka
0
120
30代からでも遅くない! 内製開発の世界に飛び込み、最前線で戦うLLMアプリ開発エンジニアになろう
minorun365
PRO
11
3.2k
ドキュメント管理の理想と現実
kazuhe
1
200
watsonx.data上のベクトル・データベース Milvusを見てみよう/20250418-milvus-dojo
mayumihirano
0
120
React ABC Questions
hirotomoyamada
0
490
Featured
See All Featured
Adopting Sorbet at Scale
ufuk
76
9.3k
A Modern Web Designer's Workflow
chriscoyier
693
190k
GraphQLの誤解/rethinking-graphql
sonatard
71
10k
Bash Introduction
62gerente
611
210k
Testing 201, or: Great Expectations
jmmastey
42
7.5k
Fashionably flexible responsive web design (full day workshop)
malarkey
407
66k
Designing for Performance
lara
608
69k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.4k
StorybookのUI Testing Handbookを読んだ
zakiyama
29
5.6k
4 Signs Your Business is Dying
shpigford
183
22k
Typedesign – Prime Four
hannesfritz
41
2.6k
Scaling GitHub
holman
459
140k
Transcript
pytorchͰػցֶश͠ͳ͍ ػցֶश/Kaggle͘͘ձ#10ˏ େࡕ(10/21 19:00ʙ) ാɹྒྷհ
͜͡͠ΐ͏͔͍ twitter (@hattan0523) ϝʔΧʔۈ ීஈ$"%ϙνϙνͯ͠ɼ ͦΕͬΆ͍ਤΛग़͢ਓ ɹɹʢ෩ͷͱ͖ʹΨϥεʹςʔϓషΔ͖ͱ͔ܭࢉ͢ΔɻͲΜͳਤͰ࡞Ε·͢ʣ ػցֶशओۀͰ͋Γ·ͤΜ େֶ࣌ʹྔࢠޫֶͷݚڀʹूத͠ɼ
ໟΛࣦ͍ത࢜Λऔಘɻ http://www.breault.com/software/asap-nextgen https://www.muratasoftware.com/products/ examples/watgal004/
ಈػ pytorchͱ͔ਂֶशͷϥΠϒϥϦɼ ίϯϖʹ͍ͬͺ͍ΘΕͯΔ͠ ը૾ͱ͔NLPͷਂֶशΛΔͱ͖ ͱΓ͋͑ͣͬͱ͖Ό͑͑Ζɻ https://twitter.com/nino_pira/status/1181913845507354626
ಈػ pytorchԿΛͬͯΔͷʁ ͡Ͳ͏ͼͿΜʁ ͠Μͦ͏͕͘͠ΎʔͷϥΠϒϥϦͰʁ ͦ͏ͩʂ ඍΛ͠Α͏ʂ
ࠓճɿࣗಈඍΛͬͯܭࢉ ϚΫϩʔϦϯల։ sinؔΛ10࣍·Ͱ sinؔΛ20࣍·Ͱ χϡʔτϯ๏ɹɹɹɹɹɹɹɹͷղΛग़͢
ࣗಈඍ is Կʁ https://github.com/pytorch/pytorch/blob/edb88b5f3af03718b443d015f195faa1832ce95b/caffe2/operators/sin_op.cu ɾඍ ࣮ࡍʹಋؔͷఆٛʹैͬͯతʹܭࢉ͢Δɻ ޡ͕ࠩͰ͖Δɻ ɾࣗಈඍ ܭࢉ͢ΔؔͷಋؔΛ༧Ίఆ͓ٛͯ͘͠ɻ ؔʹೖ͢Δ͚ͩͳͷͰޡࠩ΄΅ͳ͍ɻ
pytorchͷsinͷಋؔͷఆٛ ֻ͚ͷͱ͜ΖΛݟΔͱɼ ಋؔ(cos)͕ఆٛ͞Ε͍ͯΔ ͜ͱ͕Θ͔Δɻ ࢀߟɿࣗಈඍΛ࣮ͯ͠ཧղ͢Δ https://qiita.com/lotz/items/39c52f08cc9b5d8439ca https://qiita.com/lotz/items/f1d4ab1d83dc13a5d81a
ͬͯΈΔ ී௨ʹΈͳ͞Μ͕࣮ߦ͍ͯ͠Δ͜ͱɻ requires_grad=Trueͱ͢Δ͜ͱͰɼඍ͢ΔΑʔͬͯએݴ͢Δɻ backward()ͰܭࢉάϥϑʹԊͬͯࣗಈඍ͕ݺͼग़͞Εɼ x.gradͰඍ͕ಘΒΕ·͢ɻ ࢀߟɿPyTorchͰߴ֊ภඍ (https://qiita.com/tmasada/items/ 9dee38e5bc1482217493)
ೋ֊ඍ ‘torch.autograd.grad(f, x, create_graph=True)’Ͱɼfʹ͍ͭͯxͰඍ ͢ΔΑʔͱએݴ͢Δɻ ܭࢉάϥϑΛ࡞Βͳ͍ͱඍͯ͘͠Εͳ͍ɻ ࡉ͔͍͜ͱ্ͷQiitaͷهࣄͰɻ ࢀߟɿPyTorchͰߴ֊ภඍ (https://qiita.com/tmasada/items/ 9dee38e5bc1482217493)
ԿճͰඍͰ͖·͢ʂ ࢀߟɿPyTorchͰߴ֊ภඍ (https://qiita.com/tmasada/items/ 9dee38e5bc1482217493) ඍ͕Ͱ͖ΔʂͰ͖Δͧʂʂ
ϚΫϩʔϦϯల։ Β͔ͳؔΛ্ͷΑ͏ͳܗʹల։ͯ͠ɼ ۙࣅతͳؔͱͯ͠ද͢͜ͱ͕Ͱ͖Δɻ ֶಘҙ͡Όͳ͍ͷͰɼ ݫີͳఆٛΑ͘Θ͔͍ͬͯ·ͤΜɻ ͜ΕΛpytorchͰ࣮ͯ͠ΈΑ͏ʂ (kaggleͷnotebookࢀর)
sinؔͰಘΒΕͨάϥϑ ͬͨ͜ͱ 1.ҙͷ࣍·ͰܭࢉάϥϑΛ࡞ͯ͠ɼඍΛܭࢉ͢Δ 2.֤ԣ࣠ͷʹରͯ͠ܭࢉͨ͠ඍͰॎ࣠ͷΛग़͢ɻ େมͳͷͰ1,2ΛߦྻͰܭࢉ͢Δ sinؔΛ10࣍·Ͱ sinؔΛ20࣍·Ͱ https://www.kaggle.com/hattan0523/pytorch-maclaurin-series? scriptVersionId=22206309
χϡʔτϯ๏ ඍΛͬͯํఔࣜΛղ͘ํ๏ ʹ͍ͭͯࣗಈඍΛͬͯղ͍ͯΈΔɻ ղ x=ln2≒0.69314718056 C++ - ඇઢܗํఔࣜͷղ๏ʢχϡʔ τϯ๏ʣʂ https://www.mk-mode.com/blog/
2012/11/21/21002047/# ΑΓҾ༻
σϞ̎ɿ݁Ռ ࣮ίʔυ: https://www.kaggle.com/hattan0523/newton-raphson-method-by- pytorch ղ x=ln2≒0.69314718056 ॳظͱؔΛ༩͑ΕɼҙͷճܭࢉΛߦͬͯ͘ΕΔɻ ֓ͶऩଋͰ͖ͨʂ
·ͱΊ ɾpytorchࣗಈඍͷϥΠϒϥϦ Ͱ͌ʔΒʔʹΜ͙Ͱͳͦ͞͏ɻ ɾܭࢉάϥϑΛ໌ࣔతʹ࡞ͬͯ͋͛Δ͜ͱͰ ɹඍՄೳͳؔΛ͍ͬͯΖΜͳ༡ͼ͕Ͱ͖ͦ͏ɻ ɾྫͱͯ͠ɼ sinؔͷϚΫϩʔϦϯల։ χϡʔτϯ๏ΛͬͨํఔࣜͷղΛಋग़ͨ͠ɻ ɾඍָ͍͠ΊΔͬ