Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AGI福岡 第3回
Search
yuky_az
November 14, 2024
Technology
0
95
AGI福岡 第3回
AGI時代に向けて、今からできることを共に考え、実行していこう!
yuky_az
November 14, 2024
Tweet
Share
More Decks by yuky_az
See All by yuky_az
AGI福岡 第6回
yukinaga
0
83
AGI福岡 第5回
yukinaga
0
130
AGI福岡 第2回
yukinaga
0
96
生成AIの現状と展望: AIと共生する未来への道程
yukinaga
3
1.1k
BERTによる自然言語処理を学ぼう!【 Live!人工知能 #26】 #Live人工知能
yukinaga
0
400
iOSアプリは「感情」を宿すのか? AIとアプリの未来について
yukinaga
2
1.1k
iOSアプリに「意識」は宿るのか? ディープラーニングの先にある人工知能(AI)
yukinaga
6
5.8k
ヒトとAIの共生、そしてシンギュラリティ
yukinaga
0
1k
iOSと(深層)強化学習
yukinaga
6
8.9k
Other Decks in Technology
See All in Technology
Shadow DOMとセキュリティ - 光と影の境界を探る / Shibuya.XSS techtalk #13
masatokinugawa
0
270
ゼロから始めるSREの事業貢献 - 生成AI時代のSRE成長戦略と実践 / Starting SRE from Day One
shinyorke
PRO
0
230
公開初日に個人環境で試した Gemini CLI 体験記など / Gemini CLI実験レポート
you
PRO
3
310
FAST導入1年間のふりかえり〜現実を直視し、さらなる進化を求めて〜 / Review of the first year of FAST implementation
wooootack
1
120
メモ整理が苦手な者による頑張らないObsidian活用術
optim
0
120
株式会社島津製作所_研究開発(集団協業と知的生産)の現場を支える、OSS知識基盤システムの導入
akahane92
1
1.1k
20250718_ITSurf_“Bet AI”を支える文化とコストマネジメント
helosshi
1
210
Jitera Company Deck / JP
jitera
0
140
怖くない!GritQLでBiomeプラグインを作ろうよ
pal4de
1
120
Data Engineering Study#30 LT資料
tetsuroito
1
550
AI時代にも変わらぬ価値を発揮したい: インフラ・クラウドを切り口にユーザー価値と非機能要件に向き合ってエンジニアとしての地力を培う
netmarkjp
0
220
Snowflake のアーキテクチャは本当に筋がよかったのか / Data Engineering Study #30
indigo13love
0
250
Featured
See All Featured
Embracing the Ebb and Flow
colly
86
4.8k
YesSQL, Process and Tooling at Scale
rocio
173
14k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
15
1.6k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
33
2.4k
Building Adaptive Systems
keathley
43
2.7k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
34
5.9k
A Modern Web Designer's Workflow
chriscoyier
695
190k
Why You Should Never Use an ORM
jnunemaker
PRO
58
9.5k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
35
2.5k
How to train your dragon (web standard)
notwaldorf
96
6.1k
Side Projects
sachag
455
43k
Transcript
"(*Ԭୈճ !ΤϯδχΞΧϑΣ
Φʔϓχϯά
ʮ൚༻ਓೳʢ"(*ʣʯͱʮಛԽܕਓೳʯ ൚༻ਓೳʢ˺ڧ͍"*ʣ ˠώτͷೳͷΑ͏ͳ൚༻ੑΛ࣋ͭ"* FHυϥ͑ΜɺమΞτϜͳͲ ಛԽܕਓೳʢ˺ऑ͍"*ʣ ˠݶఆతͳղܾਪ FHνΣεকعͷ"*ɺը૾ೝࣝͳͲ ࠷৽ͷ--.ͲͪΒʁ
"(*ͷొؒۙʁ 4*56"5*0/"-"8"3&/&44 ΑΓ IUUQTTJUVBUJPOBMBXBSFOFTTBJGSPNBHJ UPTVQFSJOUFMMJHFODF
ϊʔϕϧཧֶ © Johan Jarnestad/The Royal Swedish Academy of Sciences John
Hop fi eld and Geoffrey Hinton. Ill. Niklas Elmehed © Nobel Prize Outreach ͷϊʔϕϧཧֶɺ δϣϯɾ+ɾϗοϓϑΟʔϧυʢถࠃʣͱδΣϑϦʔɾ&ɾώϯτϯʢΧφμʣ͕ड
ϊʔϕϧཧֶ • डཧ༝ → ػցֶशͱਓχϡʔϥϧωοτϫʔΫͷج൫Λߏங͠ɺσʔλύλʔϯͷ هԱɾ࠶ݱΛՄೳʹͨ͠ޭɻ • ओͳۀ → ϗοϓϑΟʔϧυɿεϐϯܥͷཧֶͷݪཧΛԠ༻ͨ͠ʮϗοϓϑΟʔϧυ
ωοτϫʔΫʯΛ։ൃ͠ɺσʔλύλʔϯͷอଘͱ෮ݩΛ࣮ݱɻ → ώϯτϯɿʮϘϧπϚϯϚγϯʯΛ։ൃ͠ɺσʔλ͔ΒಛΛֶश͢Δٕज़ Λཱ֬ɻAIͱػցֶशͷඈ༂తͳਐలʹߩݙɻ • Өڹ → AIͱཧֶͷ༥߹ʹΑΔൃలΛଅਐ͠ɺԠ༻ͰͷՄೳੑΛେ͖֦͘େɻ
"(*Ԭͷҙٛ w "(*࣌ʹ͚ͯɺࠓ͔ΒͰ͖Δ͜ͱΛڞʹߟ͑ɺ ࣮ߦ͍ͯ͜͠͏ʂ
ӡӦऀհ w զ࠺ʢ4"*-BCגࣜձࣾʣ w ۙ౻ݑࣇʢגࣜձࣾελσΟετʣ w େ৴ߊʢ/0#%"5"גࣜձࣾʣ w ੨྄ʢςΠϧΠϯυגࣜձࣾʣ
දऀհ զ࠺ :VLJOBHB"[VNB !ZVLZ@B[ 4"*-BCגࣜձࣾදऔక w "*ؔ࿈ͷڭҭɺݚڀ w ཧֶത࢜ʢཧֶʣ w
๏େֶσβΠϯֶ෦݉ߨࢣ w 6EFNZͰສਓΛࢦಋ w ༗໊اۀͰ"*ݚमΛ୲ w ஶॻʹʮ͡ΊͯͷσΟʔϓϥʔχϯάʯͳͲ w झຯϒϥδϦΞϯॊज़"*Ξʔτ
ϋογϡλά BHJGVLVPLB
"(*Ԭ%JTDPSEίϛϡχςΟ
:PV5VCFϥΠϒ ʮ&OHJOFFSDBGF"(*ԬʯͰ:PV5VCFݕࡧ
ࠓճͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOO
ϗοϓϑΟʔϧυωοτϫʔΫͱʁ
δϣϯɾϗοϓϑΟʔϧυࢯͷհ ݚڀऀͱͯ͠ͷܦྺ • ੜ·ΕɺΞϝϦΧͷཧֶऀɾੜཧֶऀ • ϓϦϯετϯେֶͰཧֶΛઐ߈ʢ1I%ʣ • ΧϦϑΥϧχΞՊେֶɺϓϦϯετϯେֶͳͲͰڭ佃 • ཧֶ͔ΒਆܦՊֶݚڀྖҬΛ֦େ
• ෳࡶܥͷݚڀͰଟେͳޭ ओͳۀͱධՁ • ɿϗοϓϑΟʔϧυωοτϫʔΫΛఏҊ • ཧֶͷ֓೦Λ༻͍ͯχϡʔϥϧωοτΛཧԽ • ݱͷਂֶशͷཧతج൫Λங͍ͨઌۦऀͷҰਓ Ill. Niklas Elmehed © Nobel Prize Outreach
ϗοϓϑΟʔϧυωοτϫʔΫͷݩจ ถࠃՊֶΞΧσϛʔلཁʹܝࡌ IUUQTXXXQOBTPSHEPJQOBT
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ͯ͢ͷχϡʔϩϯ͕૬ޓʹ݁߹ • ֤χϡʔϩϯํʹଓɺͨͩࣗ͠ݾ݁߹ଘࡏ͠ͳ͍ • ݁߹ͷॏΈରশతʢ ʣ •
χϡʔϩϯͷঢ়ଶࢄʢ ʣ·ͨೋʢ ʣ ಈ࡞ͷಛ • ΤωϧΪʔؔ ʹجͮ͘ঢ়ଶߋ৽ ◦ ɿχϡʔϩϯ ͷᮢʢόΠΞεʣ • ඇಉظతͳঢ়ଶߋ৽ʢҰʹͭͷχϡʔϩϯʣ • ہॴతͳใͷΈͰߋ৽அ • ΤωϧΪʔ࠷খԽʹΑΔ҆ఆঢ়ଶͷऩଋ • ཧֶͷεϐϯάϥεϞσϧͱྨࣅͨ͠ৼΔ͍ wij = wji si ∈ − 1, + 1 si ∈ 0,1 E = − 1 2 ∑ i,j wij si sj − ∑ i θi si θi i
ಈ࡞ݪཧ ঢ়ଶߋ৽ͷϝΧχζϜ • ֤χϡʔϩϯͷೖྗɿ • ߋ৽نଇɿ ࢄʢۃੑʣͷ߹ɿ ೋʢ୯ۃੑʣͷ߹ɿ
• ඇಉظతͳߋ৽ʢϥϯμϜʹબΜͩͭͷχϡʔϩϯΛߋ৽ʣ • ͯ͢ͷχϡʔϩϯ͕҆ఆ͢Δ·Ͱ܁Γฦ͠ hi = ∑ j wij sj + θi si = { +1 JG hi ≥ 0 −1 JG hi < 0 si = { 1 JG hi ≥ 0 0 JG hi < 0
ಈ࡞ݪཧ ΤωϧΪʔͱऩଋ • ΤωϧΪʔؔঢ়ଶߋ৽ʹΑΓ୯ௐݮগ • γεςϜඞͣہॴ࠷খʹऩଋ • ࠷ऴঢ়ଶॳظঢ়ଶʹґଘ • ΤωϧΪʔܗͷΠϝʔδɿ
◦ࢁʢෆ҆ఆঢ়ଶʣ͔Β୩ʢ҆ఆঢ়ଶʣ ◦ෳͷ҆ఆঢ়ଶʢہॴ࠷খʣ͕ଘࡏ ◦هԱύλʔϯ҆ఆঢ়ଶͷҰͭʹରԠ
ֶशͱهԱ ֶशʢॏΈͷܾఆʣ • ݁߹ՙॏͷֶशଇɿ ʢ ʣ ◦ ɿχϡʔϩϯ ◦ ɿهԱͤ͞Δύλʔϯ
◦ ɿύλʔϯ ʹ͓͚Δχϡʔϩϯ ͷঢ়ଶ • ҰͷܭࢉͰॏΈΛܾఆʢඇ෮తʣ • ੜֶతͳϔϒଇʹجͮ͘ هԱ༰ྔͱಛ • ཧతͳهԱ༰ྔɿ ◦ ݸͷχϡʔϩϯͰ ݸͷύλʔϯΛهԱՄೳ • ϊΠζΛؚΉೖྗ͔Βͷى͕Մೳ • ύλʔϯͷҰ෦͔ΒશମΛ࠶ߏ wij = 1 N ∑p μ=1 sμ i sμ j i ≠ j N p sμ i μ i pmax ≈ 0.14N N 0.14N
Ԡ༻ྫͱಛ දతͳԠ༻ྫ • ࿈هԱγεςϜ ◦ύλʔϯ෮ݩɾϊΠζআڈ ◦ෆશͳೖྗ͔Βͷى • Έ߹Θͤ࠷దԽ ◦८ճηʔϧεϚϯ ◦εέδϡʔϦϯά
རͱݶք • རɿฒྻॲཧ͕ՄೳɺϋʔυΣΞ࣮͕༰қ • ݶքɿهԱ༰ྔͷ੍ݶʢ ʣɺہॴղʹؕΔՄೳੑ 0.14N
ൃలͱӨڹ తͳൃల • ϘϧπϚϯϚγϯͷਐԽ ◦֬తͳৼΔ͍ͷಋೖɺӅΕͷՃ • ࿈ଓϞσϧͷ։ൃ ◦ΞφϩάχϡʔϩϯͷಋೖɺΑΓ๛͔ͳදݱೳྗͷ֫ಘ ݱͷӨڹ •
ཧֶͷݟͷ׆༻ ◦ΤωϧΪʔ࠷খԽʹΑΔֶश ◦֬తΞϓϩʔνͷجૅ
ϗοϓϑΟʔϧυωοτϫʔΫͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
ϘϧπϚϯϚγϯͱʁ
δΣϑϦʔɾώϯτϯࢯͷհ Ill. Niklas Elmehed © Nobel Prize Outreach ܦྺͱݚڀ •
ΠΪϦεੜ·ΕɺʮσΟʔϓϥʔχϯάͷʯ • τϩϯτେֶڭतɺ(PPHMF3FTFBSDIॴଐ • ೝ৺ཧֶ͔Βਓೳݚڀ • ਂֶशͷཧతجૅΛཱ֬ ओͳۀ • ޡࠩٯ๏ͷ࠶ൃݟʢʣ • %FFQ#FMJFG/FUXPSLͷఏҊʢʣ • νϡʔϦϯάडʢʣ • "*҆શੑͷܯʢʣ
ϘϧπϚϯϚγϯͷݩจ τϩϯτେֶͷΣϒαΠτʹܝࡌ IUUQTXXXDTUPSPOUPFEVdGSJU[BCTQTDPHTDJCNQEG
എܠͱੜ ։ൃͷഎܠ • ɺϗοϓϑΟʔϧυωοτϫʔΫͷݶք • ౷ܭྗֶʢϘϧπϚϯʣͷԠ༻Λண • )JOUPO4FKOPXTLJʹΑΔڞಉݚڀʢʣ • ֬తͳৼΔ͍ͷಋೖ
ओཁͳֵ৽ • ֬తͳχϡʔϩϯͷಋೖ • ԹύϥϝʔλʹΑΔ੍ޚ • ӅΕϢχοτͷಋೖ • ΤωϧΪʔ࠷খԽͱ֬తֶशͷ౷߹
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ՄࢹͱӅΕͷߏ • ͯ͢ͷϢχοτ͕ؒํʹ݁߹ • ֬తͳঢ়ଶભҠɿ ◦
ɿঢ়ଶมԽʹ͏ΤωϧΪʔมԽ ◦ ɿԹύϥϝʔλ ΤωϧΪʔؔ • ◦ ɿϢχοτؒͷ݁߹ॏΈ ◦ ɿϢχοτͷঢ়ଶʢ·ͨʣ ◦ ɿόΠΞε߲ • Թ ʹΑͬͯঢ়ଶΛ੍ޚ p(si = 1) = 1 1 + e−ΔEi/T ΔEi T E = − ∑ i<j wij si sj − ∑ i θi si wij si θi T
ಈ࡞ϝΧχζϜ ঢ়ଶભҠͷΈ • ϘϧπϚϯʹै͏֬తͳঢ়ଶߋ৽ ◦ ◦ ɿؔ ɿશϢχοτͷঢ়ଶϕΫτϧ •
ΪϒεαϯϓϦϯάʹΑΔঢ়ଶભҠ ◦ϥϯμϜʹબΜͩϢχοτΛ֬తʹߋ৽ ◦ฏߧঢ়ଶʹ౸ୡ͢Δ·Ͱ܁Γฦ͠ Թ੍ޚͱ࠷దԽ • γϛϡϨʔςουΞχʔϦϯάͷར༻ ◦ߴԹ͔Β։࢝͠ɺঃʑʹԹΛԼ͛Δ ◦ہॴղճආͱେҬత࠷దԽ • ԹʹΑΔ୳ࡧɾऩଋͷ੍ޚ ◦ߴԹɿϥϯμϜͳ୳ࡧԹɿہॴతͳ࠷దԽ P(s) = 1 Z e−E(s)/T Z s
ֶशΞϧΰϦζϜ ֶशͷجຊࣜ • ॏΈߋ৽ଇɿ ◦ ɿֶश ◦ ɿσʔλͷظʢਖ਼૬ʣ ◦
ɿϞσϧͷظʢෛ૬ʣ ্࣮ͷ • ίϯτϥεςΟϒμΠόʔδΣϯεʢ$%ʣ๏ͷಋೖ ◦શͳऩଋΛͨͣʹֶश ◦গεςοϓͷαϯϓϦϯάͰ༻ • Թεέδϡʔϧͷઃఆ ◦ֶशॳظߴԹͰ୳ࡧతʹ ◦ֶशޙظԹͰऩଋΛଅਐ Δwij = η(⟨si sj ⟩data − ⟨si sj ⟩model ) η ⟨ ⋅ ⟩data ⟨ ⋅ ⟩model
ൃలͱԠ༻ Ϟσϧͷൃల • ੍ݶϘϧπϚϯϚγϯʢ3#.ʣͷߟҊ ◦ؒͷΈͷ݁߹ʹΑΔޮԽ ◦%FFQ#FMJFG/FUXPSLͷجૅʹ • %FFQ-FBSOJOHֵ໋ͷߩݙ ◦ਂֶशͷࣄલֶशख๏ͱͯ͠׆༻ ◦ੜϞσϧͷجຊ֓೦Λཱ֬
ϘϧπϚϯϚγϯͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
Ԭͷ"(* Γ্͍͖͛ͯ·͠ΐ͏ʂ