Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
pytorchで機械学習しない
Search
Hata Ryosuke
October 21, 2019
Technology
3
990
pytorchで機械学習しない
pytorchでマクローリン展開とニュートン法を試してみました。
Hata Ryosuke
October 21, 2019
Tweet
Share
More Decks by Hata Ryosuke
See All by Hata Ryosuke
関西Kaggler会 発表スライド
ryosukehata
1
990
Monocular 3D Object Detection Survey
ryosukehata
3
460
量子情報勉強会,量子ゲートについて
ryosukehata
0
220
Other Decks in Technology
See All in Technology
DevinはクラウドエンジニアAIになれるのか!? 実践的なガードレール設計/devin-can-become-a-cloud-engineer-ai-practical-guardrail-design
tomoki10
3
1.3k
チームの性質によって変わる ADR との向き合い方と、生成 AI 時代のこれから / How to deal with ADR depends on the characteristics of the team
mh4gf
4
330
LINE Notify互換のボットを作った話
kenichirokimura
0
170
SpannerとAurora DSQLの同時実行制御の違いに想いを馳せる
masakikato5
0
570
Road to SRE NEXT@仙台 IVRyの組織の形とSLO運用の現状
abnoumaru
0
380
Amazon Q Developer 他⽣成AIと⽐較してみた
takano0131
1
120
Cloud Native PG 使ってみて気づいたことと最新機能の紹介 - 第52回PostgreSQLアンカンファレンス
seinoyu
1
190
Compose MultiplatformにおけるiOSネイティブ実装のベストプラクティス
enomotok
1
210
Why Go?
xpmatteo
0
130
30代エンジニアが考える、エンジニア生存戦略~~セキュリティを添えて~~
masakiokuda
4
2k
Proxmox VE超入門 〜 無料で作れるご自宅仮想化プラットフォームブックマークする
devops_vtj
0
120
チームビルディング「脅威モデリング」ワークショップ
koheiyoshikawa
0
140
Featured
See All Featured
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
How to Think Like a Performance Engineer
csswizardry
22
1.5k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
A Tale of Four Properties
chriscoyier
158
23k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
666
120k
[RailsConf 2023] Rails as a piece of cake
palkan
53
5.4k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
331
21k
The Invisible Side of Design
smashingmag
299
50k
BBQ
matthewcrist
88
9.5k
Practical Orchestrator
shlominoach
187
10k
Code Reviewing Like a Champion
maltzj
522
39k
Why Our Code Smells
bkeepers
PRO
336
57k
Transcript
pytorchͰػցֶश͠ͳ͍ ػցֶश/Kaggle͘͘ձ#10ˏ େࡕ(10/21 19:00ʙ) ാɹྒྷհ
͜͡͠ΐ͏͔͍ twitter (@hattan0523) ϝʔΧʔۈ ීஈ$"%ϙνϙνͯ͠ɼ ͦΕͬΆ͍ਤΛग़͢ਓ ɹɹʢ෩ͷͱ͖ʹΨϥεʹςʔϓషΔ͖ͱ͔ܭࢉ͢ΔɻͲΜͳਤͰ࡞Ε·͢ʣ ػցֶशओۀͰ͋Γ·ͤΜ େֶ࣌ʹྔࢠޫֶͷݚڀʹूத͠ɼ
ໟΛࣦ͍ത࢜Λऔಘɻ http://www.breault.com/software/asap-nextgen https://www.muratasoftware.com/products/ examples/watgal004/
ಈػ pytorchͱ͔ਂֶशͷϥΠϒϥϦɼ ίϯϖʹ͍ͬͺ͍ΘΕͯΔ͠ ը૾ͱ͔NLPͷਂֶशΛΔͱ͖ ͱΓ͋͑ͣͬͱ͖Ό͑͑Ζɻ https://twitter.com/nino_pira/status/1181913845507354626
ಈػ pytorchԿΛͬͯΔͷʁ ͡Ͳ͏ͼͿΜʁ ͠Μͦ͏͕͘͠ΎʔͷϥΠϒϥϦͰʁ ͦ͏ͩʂ ඍΛ͠Α͏ʂ
ࠓճɿࣗಈඍΛͬͯܭࢉ ϚΫϩʔϦϯల։ sinؔΛ10࣍·Ͱ sinؔΛ20࣍·Ͱ χϡʔτϯ๏ɹɹɹɹɹɹɹɹͷղΛग़͢
ࣗಈඍ is Կʁ https://github.com/pytorch/pytorch/blob/edb88b5f3af03718b443d015f195faa1832ce95b/caffe2/operators/sin_op.cu ɾඍ ࣮ࡍʹಋؔͷఆٛʹैͬͯతʹܭࢉ͢Δɻ ޡ͕ࠩͰ͖Δɻ ɾࣗಈඍ ܭࢉ͢ΔؔͷಋؔΛ༧Ίఆ͓ٛͯ͘͠ɻ ؔʹೖ͢Δ͚ͩͳͷͰޡࠩ΄΅ͳ͍ɻ
pytorchͷsinͷಋؔͷఆٛ ֻ͚ͷͱ͜ΖΛݟΔͱɼ ಋؔ(cos)͕ఆٛ͞Ε͍ͯΔ ͜ͱ͕Θ͔Δɻ ࢀߟɿࣗಈඍΛ࣮ͯ͠ཧղ͢Δ https://qiita.com/lotz/items/39c52f08cc9b5d8439ca https://qiita.com/lotz/items/f1d4ab1d83dc13a5d81a
ͬͯΈΔ ී௨ʹΈͳ͞Μ͕࣮ߦ͍ͯ͠Δ͜ͱɻ requires_grad=Trueͱ͢Δ͜ͱͰɼඍ͢ΔΑʔͬͯએݴ͢Δɻ backward()ͰܭࢉάϥϑʹԊͬͯࣗಈඍ͕ݺͼग़͞Εɼ x.gradͰඍ͕ಘΒΕ·͢ɻ ࢀߟɿPyTorchͰߴ֊ภඍ (https://qiita.com/tmasada/items/ 9dee38e5bc1482217493)
ೋ֊ඍ ‘torch.autograd.grad(f, x, create_graph=True)’Ͱɼfʹ͍ͭͯxͰඍ ͢ΔΑʔͱએݴ͢Δɻ ܭࢉάϥϑΛ࡞Βͳ͍ͱඍͯ͘͠Εͳ͍ɻ ࡉ͔͍͜ͱ্ͷQiitaͷهࣄͰɻ ࢀߟɿPyTorchͰߴ֊ภඍ (https://qiita.com/tmasada/items/ 9dee38e5bc1482217493)
ԿճͰඍͰ͖·͢ʂ ࢀߟɿPyTorchͰߴ֊ภඍ (https://qiita.com/tmasada/items/ 9dee38e5bc1482217493) ඍ͕Ͱ͖ΔʂͰ͖Δͧʂʂ
ϚΫϩʔϦϯల։ Β͔ͳؔΛ্ͷΑ͏ͳܗʹల։ͯ͠ɼ ۙࣅతͳؔͱͯ͠ද͢͜ͱ͕Ͱ͖Δɻ ֶಘҙ͡Όͳ͍ͷͰɼ ݫີͳఆٛΑ͘Θ͔͍ͬͯ·ͤΜɻ ͜ΕΛpytorchͰ࣮ͯ͠ΈΑ͏ʂ (kaggleͷnotebookࢀর)
sinؔͰಘΒΕͨάϥϑ ͬͨ͜ͱ 1.ҙͷ࣍·ͰܭࢉάϥϑΛ࡞ͯ͠ɼඍΛܭࢉ͢Δ 2.֤ԣ࣠ͷʹରͯ͠ܭࢉͨ͠ඍͰॎ࣠ͷΛग़͢ɻ େมͳͷͰ1,2ΛߦྻͰܭࢉ͢Δ sinؔΛ10࣍·Ͱ sinؔΛ20࣍·Ͱ https://www.kaggle.com/hattan0523/pytorch-maclaurin-series? scriptVersionId=22206309
χϡʔτϯ๏ ඍΛͬͯํఔࣜΛղ͘ํ๏ ʹ͍ͭͯࣗಈඍΛͬͯղ͍ͯΈΔɻ ղ x=ln2≒0.69314718056 C++ - ඇઢܗํఔࣜͷղ๏ʢχϡʔ τϯ๏ʣʂ https://www.mk-mode.com/blog/
2012/11/21/21002047/# ΑΓҾ༻
σϞ̎ɿ݁Ռ ࣮ίʔυ: https://www.kaggle.com/hattan0523/newton-raphson-method-by- pytorch ղ x=ln2≒0.69314718056 ॳظͱؔΛ༩͑ΕɼҙͷճܭࢉΛߦͬͯ͘ΕΔɻ ֓ͶऩଋͰ͖ͨʂ
·ͱΊ ɾpytorchࣗಈඍͷϥΠϒϥϦ Ͱ͌ʔΒʔʹΜ͙Ͱͳͦ͞͏ɻ ɾܭࢉάϥϑΛ໌ࣔతʹ࡞ͬͯ͋͛Δ͜ͱͰ ɹඍՄೳͳؔΛ͍ͬͯΖΜͳ༡ͼ͕Ͱ͖ͦ͏ɻ ɾྫͱͯ͠ɼ sinؔͷϚΫϩʔϦϯల։ χϡʔτϯ๏ΛͬͨํఔࣜͷղΛಋग़ͨ͠ɻ ɾඍָ͍͠ΊΔͬ