Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AGI福岡 第3回
Search
yuky_az
November 14, 2024
Technology
0
63
AGI福岡 第3回
AGI時代に向けて、今からできることを共に考え、実行していこう!
yuky_az
November 14, 2024
Tweet
Share
More Decks by yuky_az
See All by yuky_az
AGI福岡 第2回
yukinaga
0
59
生成AIの現状と展望: AIと共生する未来への道程
yukinaga
3
1.1k
BERTによる自然言語処理を学ぼう!【 Live!人工知能 #26】 #Live人工知能
yukinaga
0
360
iOSアプリは「感情」を宿すのか? AIとアプリの未来について
yukinaga
2
1k
iOSアプリに「意識」は宿るのか? ディープラーニングの先にある人工知能(AI)
yukinaga
6
5.6k
ヒトとAIの共生、そしてシンギュラリティ
yukinaga
0
980
iOSと(深層)強化学習
yukinaga
6
8.7k
iOSと人工知能(AI) -GPU並列演算の仕組みと機械学習-
yukinaga
0
3.1k
最小限の実装で試す MetalによるGPUコンピューティング
yukinaga
2
2.2k
Other Decks in Technology
See All in Technology
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
6
54k
[IBM TechXchange Dojo]Watson Discoveryとwatsonx.aiでRAGを実現!事例のご紹介+座学②
siyuanzh09
0
110
あなたの人生も変わるかも?AWS認定2つで始まったウソみたいな話
iwamot
3
860
Kotlin Multiplatformのポテンシャル
recruitengineers
PRO
2
150
AWSの生成AIサービス Amazon Bedrock入門!(2025年1月版)
minorun365
PRO
7
470
AWS re:Invent 2024 re:Cap Taipei (for Developer): New Launches that facilitate Developer Workflow and Continuous Innovation
dwchiang
0
170
技術に触れたり、顔を出そう
maruto
1
150
テストを書かないためのテスト/ Tests for not writing tests
sinsoku
1
170
メールヘッダーを見てみよう
hinono
0
110
今年一年で頑張ること / What I will do my best this year
pauli
1
220
comilioとCloudflare、そして未来へと向けて
oliver_diary
6
450
2024年活動報告会(人材育成推進WG・ビジネスサブWG) / 20250114-OIDF-J-EduWG-BizSWG
oidfj
0
230
Featured
See All Featured
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
19
2.3k
[RailsConf 2023] Rails as a piece of cake
palkan
53
5.1k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
30
2.1k
Automating Front-end Workflow
addyosmani
1366
200k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
4 Signs Your Business is Dying
shpigford
182
22k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
6
500
GitHub's CSS Performance
jonrohan
1030
460k
The World Runs on Bad Software
bkeepers
PRO
66
11k
Designing for Performance
lara
604
68k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
3
240
Building Adaptive Systems
keathley
38
2.4k
Transcript
"(*Ԭୈճ !ΤϯδχΞΧϑΣ
Φʔϓχϯά
ʮ൚༻ਓೳʢ"(*ʣʯͱʮಛԽܕਓೳʯ ൚༻ਓೳʢ˺ڧ͍"*ʣ ˠώτͷೳͷΑ͏ͳ൚༻ੑΛ࣋ͭ"* FHυϥ͑ΜɺమΞτϜͳͲ ಛԽܕਓೳʢ˺ऑ͍"*ʣ ˠݶఆతͳղܾਪ FHνΣεকعͷ"*ɺը૾ೝࣝͳͲ ࠷৽ͷ--.ͲͪΒʁ
"(*ͷొؒۙʁ 4*56"5*0/"-"8"3&/&44 ΑΓ IUUQTTJUVBUJPOBMBXBSFOFTTBJGSPNBHJ UPTVQFSJOUFMMJHFODF
ϊʔϕϧཧֶ © Johan Jarnestad/The Royal Swedish Academy of Sciences John
Hop fi eld and Geoffrey Hinton. Ill. Niklas Elmehed © Nobel Prize Outreach ͷϊʔϕϧཧֶɺ δϣϯɾ+ɾϗοϓϑΟʔϧυʢถࠃʣͱδΣϑϦʔɾ&ɾώϯτϯʢΧφμʣ͕ड
ϊʔϕϧཧֶ • डཧ༝ → ػցֶशͱਓχϡʔϥϧωοτϫʔΫͷج൫Λߏங͠ɺσʔλύλʔϯͷ هԱɾ࠶ݱΛՄೳʹͨ͠ޭɻ • ओͳۀ → ϗοϓϑΟʔϧυɿεϐϯܥͷཧֶͷݪཧΛԠ༻ͨ͠ʮϗοϓϑΟʔϧυ
ωοτϫʔΫʯΛ։ൃ͠ɺσʔλύλʔϯͷอଘͱ෮ݩΛ࣮ݱɻ → ώϯτϯɿʮϘϧπϚϯϚγϯʯΛ։ൃ͠ɺσʔλ͔ΒಛΛֶश͢Δٕज़ Λཱ֬ɻAIͱػցֶशͷඈ༂తͳਐలʹߩݙɻ • Өڹ → AIͱཧֶͷ༥߹ʹΑΔൃలΛଅਐ͠ɺԠ༻ͰͷՄೳੑΛେ͖֦͘େɻ
"(*Ԭͷҙٛ w "(*࣌ʹ͚ͯɺࠓ͔ΒͰ͖Δ͜ͱΛڞʹߟ͑ɺ ࣮ߦ͍ͯ͜͠͏ʂ
ӡӦऀհ w զ࠺ʢ4"*-BCגࣜձࣾʣ w ۙ౻ݑࣇʢגࣜձࣾελσΟετʣ w େ৴ߊʢ/0#%"5"גࣜձࣾʣ w ੨྄ʢςΠϧΠϯυגࣜձࣾʣ
දऀհ զ࠺ :VLJOBHB"[VNB !ZVLZ@B[ 4"*-BCגࣜձࣾදऔక w "*ؔ࿈ͷڭҭɺݚڀ w ཧֶത࢜ʢཧֶʣ w
๏େֶσβΠϯֶ෦݉ߨࢣ w 6EFNZͰສਓΛࢦಋ w ༗໊اۀͰ"*ݚमΛ୲ w ஶॻʹʮ͡ΊͯͷσΟʔϓϥʔχϯάʯͳͲ w झຯϒϥδϦΞϯॊज़"*Ξʔτ
ϋογϡλά BHJGVLVPLB
"(*Ԭ%JTDPSEίϛϡχςΟ
:PV5VCFϥΠϒ ʮ&OHJOFFSDBGF"(*ԬʯͰ:PV5VCFݕࡧ
ࠓճͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOO
ϗοϓϑΟʔϧυωοτϫʔΫͱʁ
δϣϯɾϗοϓϑΟʔϧυࢯͷհ ݚڀऀͱͯ͠ͷܦྺ • ੜ·ΕɺΞϝϦΧͷཧֶऀɾੜཧֶऀ • ϓϦϯετϯେֶͰཧֶΛઐ߈ʢ1I%ʣ • ΧϦϑΥϧχΞՊେֶɺϓϦϯετϯେֶͳͲͰڭ佃 • ཧֶ͔ΒਆܦՊֶݚڀྖҬΛ֦େ
• ෳࡶܥͷݚڀͰଟେͳޭ ओͳۀͱධՁ • ɿϗοϓϑΟʔϧυωοτϫʔΫΛఏҊ • ཧֶͷ֓೦Λ༻͍ͯχϡʔϥϧωοτΛཧԽ • ݱͷਂֶशͷཧతج൫Λங͍ͨઌۦऀͷҰਓ Ill. Niklas Elmehed © Nobel Prize Outreach
ϗοϓϑΟʔϧυωοτϫʔΫͷݩจ ถࠃՊֶΞΧσϛʔلཁʹܝࡌ IUUQTXXXQOBTPSHEPJQOBT
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ͯ͢ͷχϡʔϩϯ͕૬ޓʹ݁߹ • ֤χϡʔϩϯํʹଓɺͨͩࣗ͠ݾ݁߹ଘࡏ͠ͳ͍ • ݁߹ͷॏΈରশతʢ ʣ •
χϡʔϩϯͷঢ়ଶࢄʢ ʣ·ͨೋʢ ʣ ಈ࡞ͷಛ • ΤωϧΪʔؔ ʹجͮ͘ঢ়ଶߋ৽ ◦ ɿχϡʔϩϯ ͷᮢʢόΠΞεʣ • ඇಉظతͳঢ়ଶߋ৽ʢҰʹͭͷχϡʔϩϯʣ • ہॴతͳใͷΈͰߋ৽அ • ΤωϧΪʔ࠷খԽʹΑΔ҆ఆঢ়ଶͷऩଋ • ཧֶͷεϐϯάϥεϞσϧͱྨࣅͨ͠ৼΔ͍ wij = wji si ∈ − 1, + 1 si ∈ 0,1 E = − 1 2 ∑ i,j wij si sj − ∑ i θi si θi i
ಈ࡞ݪཧ ঢ়ଶߋ৽ͷϝΧχζϜ • ֤χϡʔϩϯͷೖྗɿ • ߋ৽نଇɿ ࢄʢۃੑʣͷ߹ɿ ೋʢ୯ۃੑʣͷ߹ɿ
• ඇಉظతͳߋ৽ʢϥϯμϜʹબΜͩͭͷχϡʔϩϯΛߋ৽ʣ • ͯ͢ͷχϡʔϩϯ͕҆ఆ͢Δ·Ͱ܁Γฦ͠ hi = ∑ j wij sj + θi si = { +1 JG hi ≥ 0 −1 JG hi < 0 si = { 1 JG hi ≥ 0 0 JG hi < 0
ಈ࡞ݪཧ ΤωϧΪʔͱऩଋ • ΤωϧΪʔؔঢ়ଶߋ৽ʹΑΓ୯ௐݮগ • γεςϜඞͣہॴ࠷খʹऩଋ • ࠷ऴঢ়ଶॳظঢ়ଶʹґଘ • ΤωϧΪʔܗͷΠϝʔδɿ
◦ࢁʢෆ҆ఆঢ়ଶʣ͔Β୩ʢ҆ఆঢ়ଶʣ ◦ෳͷ҆ఆঢ়ଶʢہॴ࠷খʣ͕ଘࡏ ◦هԱύλʔϯ҆ఆঢ়ଶͷҰͭʹରԠ
ֶशͱهԱ ֶशʢॏΈͷܾఆʣ • ݁߹ՙॏͷֶशଇɿ ʢ ʣ ◦ ɿχϡʔϩϯ ◦ ɿهԱͤ͞Δύλʔϯ
◦ ɿύλʔϯ ʹ͓͚Δχϡʔϩϯ ͷঢ়ଶ • ҰͷܭࢉͰॏΈΛܾఆʢඇ෮తʣ • ੜֶతͳϔϒଇʹجͮ͘ هԱ༰ྔͱಛ • ཧతͳهԱ༰ྔɿ ◦ ݸͷχϡʔϩϯͰ ݸͷύλʔϯΛهԱՄೳ • ϊΠζΛؚΉೖྗ͔Βͷى͕Մೳ • ύλʔϯͷҰ෦͔ΒશମΛ࠶ߏ wij = 1 N ∑p μ=1 sμ i sμ j i ≠ j N p sμ i μ i pmax ≈ 0.14N N 0.14N
Ԡ༻ྫͱಛ දతͳԠ༻ྫ • ࿈هԱγεςϜ ◦ύλʔϯ෮ݩɾϊΠζআڈ ◦ෆશͳೖྗ͔Βͷى • Έ߹Θͤ࠷దԽ ◦८ճηʔϧεϚϯ ◦εέδϡʔϦϯά
རͱݶք • རɿฒྻॲཧ͕ՄೳɺϋʔυΣΞ࣮͕༰қ • ݶքɿهԱ༰ྔͷ੍ݶʢ ʣɺہॴղʹؕΔՄೳੑ 0.14N
ൃలͱӨڹ తͳൃల • ϘϧπϚϯϚγϯͷਐԽ ◦֬తͳৼΔ͍ͷಋೖɺӅΕͷՃ • ࿈ଓϞσϧͷ։ൃ ◦ΞφϩάχϡʔϩϯͷಋೖɺΑΓ๛͔ͳදݱೳྗͷ֫ಘ ݱͷӨڹ •
ཧֶͷݟͷ׆༻ ◦ΤωϧΪʔ࠷খԽʹΑΔֶश ◦֬తΞϓϩʔνͷجૅ
ϗοϓϑΟʔϧυωοτϫʔΫͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
ϘϧπϚϯϚγϯͱʁ
δΣϑϦʔɾώϯτϯࢯͷհ Ill. Niklas Elmehed © Nobel Prize Outreach ܦྺͱݚڀ •
ΠΪϦεੜ·ΕɺʮσΟʔϓϥʔχϯάͷʯ • τϩϯτେֶڭतɺ(PPHMF3FTFBSDIॴଐ • ೝ৺ཧֶ͔Βਓೳݚڀ • ਂֶशͷཧతجૅΛཱ֬ ओͳۀ • ޡࠩٯ๏ͷ࠶ൃݟʢʣ • %FFQ#FMJFG/FUXPSLͷఏҊʢʣ • νϡʔϦϯάडʢʣ • "*҆શੑͷܯʢʣ
ϘϧπϚϯϚγϯͷݩจ τϩϯτେֶͷΣϒαΠτʹܝࡌ IUUQTXXXDTUPSPOUPFEVdGSJU[BCTQTDPHTDJCNQEG
എܠͱੜ ։ൃͷഎܠ • ɺϗοϓϑΟʔϧυωοτϫʔΫͷݶք • ౷ܭྗֶʢϘϧπϚϯʣͷԠ༻Λண • )JOUPO4FKOPXTLJʹΑΔڞಉݚڀʢʣ • ֬తͳৼΔ͍ͷಋೖ
ओཁͳֵ৽ • ֬తͳχϡʔϩϯͷಋೖ • ԹύϥϝʔλʹΑΔ੍ޚ • ӅΕϢχοτͷಋೖ • ΤωϧΪʔ࠷খԽͱ֬తֶशͷ౷߹
جຊΞʔΩςΫνϟ ωοτϫʔΫߏ • ՄࢹͱӅΕͷߏ • ͯ͢ͷϢχοτ͕ؒํʹ݁߹ • ֬తͳঢ়ଶભҠɿ ◦
ɿঢ়ଶมԽʹ͏ΤωϧΪʔมԽ ◦ ɿԹύϥϝʔλ ΤωϧΪʔؔ • ◦ ɿϢχοτؒͷ݁߹ॏΈ ◦ ɿϢχοτͷঢ়ଶʢ·ͨʣ ◦ ɿόΠΞε߲ • Թ ʹΑͬͯঢ়ଶΛ੍ޚ p(si = 1) = 1 1 + e−ΔEi/T ΔEi T E = − ∑ i<j wij si sj − ∑ i θi si wij si θi T
ಈ࡞ϝΧχζϜ ঢ়ଶભҠͷΈ • ϘϧπϚϯʹै͏֬తͳঢ়ଶߋ৽ ◦ ◦ ɿؔ ɿશϢχοτͷঢ়ଶϕΫτϧ •
ΪϒεαϯϓϦϯάʹΑΔঢ়ଶભҠ ◦ϥϯμϜʹબΜͩϢχοτΛ֬తʹߋ৽ ◦ฏߧঢ়ଶʹ౸ୡ͢Δ·Ͱ܁Γฦ͠ Թ੍ޚͱ࠷దԽ • γϛϡϨʔςουΞχʔϦϯάͷར༻ ◦ߴԹ͔Β։࢝͠ɺঃʑʹԹΛԼ͛Δ ◦ہॴղճආͱେҬత࠷దԽ • ԹʹΑΔ୳ࡧɾऩଋͷ੍ޚ ◦ߴԹɿϥϯμϜͳ୳ࡧԹɿہॴతͳ࠷దԽ P(s) = 1 Z e−E(s)/T Z s
ֶशΞϧΰϦζϜ ֶशͷجຊࣜ • ॏΈߋ৽ଇɿ ◦ ɿֶश ◦ ɿσʔλͷظʢਖ਼૬ʣ ◦
ɿϞσϧͷظʢෛ૬ʣ ্࣮ͷ • ίϯτϥεςΟϒμΠόʔδΣϯεʢ$%ʣ๏ͷಋೖ ◦શͳऩଋΛͨͣʹֶश ◦গεςοϓͷαϯϓϦϯάͰ༻ • Թεέδϡʔϧͷઃఆ ◦ֶशॳظߴԹͰ୳ࡧతʹ ◦ֶशޙظԹͰऩଋΛଅਐ Δwij = η(⟨si sj ⟩data − ⟨si sj ⟩model ) η ⟨ ⋅ ⟩data ⟨ ⋅ ⟩model
ൃలͱԠ༻ Ϟσϧͷൃల • ੍ݶϘϧπϚϯϚγϯʢ3#.ʣͷߟҊ ◦ؒͷΈͷ݁߹ʹΑΔޮԽ ◦%FFQ#FMJFG/FUXPSLͷجૅʹ • %FFQ-FBSOJOHֵ໋ͷߩݙ ◦ਂֶशͷࣄલֶशख๏ͱͯ͠׆༻ ◦ੜϞσϧͷجຊ֓೦Λཱ֬
ϘϧπϚϯϚγϯͷίʔυ IUUQTHJUIVCDPNZVLJOBHBIPQ fi FME@CPMU[NBOOUSFFNBJOTFDUJPO@
Ԭͷ"(* Γ্͍͖͛ͯ·͠ΐ͏ʂ