【AIと生きる時代の〈理解〉考】第1回：LLMは理解しているのか？

ブログ記事「【AIと生きる時代の〈理解〉考】第1回：LLMは理解しているのか？」をClaudeでスライド化したものです。https://rmaruy.hatenablog.com/entry/2026/02/17/083840

Transcript

1. ʲAIͱੜ͖Δ࣌୅ͷʪཧղʫߟʳୈ1ճ LLM͸ཧղ͍ͯ͠Δͷ͔ʁ େن໛ݴޠϞσϧͷʮཧղʯΛΊ͙Δٞ࿦Λ֓؍͢Δ ؙࢁོҰʢrmaruyʣ ݪจɿrmaruy.hatenablog.com/entry/2026/02/17/083840
2. Part 1ɿಋೖ 2 / 18 ຊߘͷ໨త LLMͷొ৔ҎདྷɺʮAI͸ཧղ͍ͯ͠Δͷ͔ʁʯ͸܁Γฦ͠໰ΘΕ͖ͯͨɻ೔ৗతʹLLMΛ࢖͏ࠓɺ΋͸΍ ʮ͍·͞Βʯͷ໰͍ʹฉ͑͜Δ͔΋͠Εͳ͍ɻ͔͠͠ຊߘͰ͸ɺ͋͑ͯ͜ͷ໰͍ʹཱͪฦΔɻ 1 ʮڻ͖௚͢ʯ LLM͕ݴޠΛཧղ͍ͯ͠ΔΑ͏ʹݟ͑Δͱ͍͏ࣄ࣮ʹɺ2022೥Ҏલͷײ֮ʹཱͪ໭ͬͯڻ͖௚͢ 2 ʮཧ༝Λ஌Δʯ ͦΕͰ΋LLM͸ʮຊ౰ͷҙຯͰཧղ͍ͯ͠ͳ͍ʯͱݴ͍ͨ͘ͳΔཧ༝ʹ͍ͭͯཧղΛਂΊΔ ஫ɿຊߘͰ͸ʮཧղʯΛఆٛͤͣɺ೔ৗతͳޠײʹཔͬͯٞ࿦ΛਐΊΔɻ·ͨʮLLMʯ͸ݫີʹ͸ʮLLMΛத֩ʹਾ͑ͨAIγεςϜʯΛࢦ͢ɻ
3. Part 1ɿಋೖ 3 / 18 2019೥ͷৗࣝɿʮҙຯ͕Θ͔ͬͯͳ͍͔Βʯ ʮϩϘοτ͸౦େʹೖΕΔ͔ʯϓϩδΣΫτʢ2011-2021ʣΛ཰͍ͨ৽Ҫلࢠࢯ͸ɺ2019೥11݄ʹ͜͏πΠʔτ ͨ͠ɿ ࢲࣗ਎ͷҙݟͱͯ͠͸ɺʮ͕͢͞ʹ౦େ͸ແཧͩΖ͏ʯͱࢥͬͯ͸͍·͢ɻ ͩͬͯɺҙຯ͕Θ͔ͬͯͳ͍͔Βɻ Ͱ΋ɺਓ΋ҙ֎ʹҙຯ͕Θ͔ͬͯͳ͍ͷʹղ͍͍ͯΔͬΆ͍ͷͰɺ ΋͔͢͠Δͱ΋͔͢͠Δ͔΋͠Εͳ͍ͳɺͱ͍͏ؾ͸͠·͢ɻ AI͸ݴ༿ͷҙຯΛཧղ͠ͳ͍ͱ͍͏૝ఆ͸ɺ౰࣌͸શ͘ී௨ͷ΋ͷ ͩͬͨɻ ͔͠͠ݱ࣮͸… AI͸౦େʹ߹֨Ͱ͖ΔϨϕϧʹ౸ୡ ग़యɿ৽ҪلࢠࢯπΠʔτ x.com/noricoco/status/1196351966714060801ʢ2019೥11݄ʣ/ ೔ܦxTECHʢ2025ʣʮOpenAI o1͕2025೥౦େจܥೖࢼΛ༨༟Ͱಥഁʯ
4. Part 1ɿಋೖ 4 / 18 ChatGPTͷিܸͱɺബΕΏ͘ʮڻ͖ʯ 2022.11 ChatGPTొ৔ GPT-3.5ϕʔεͷର࿩AI͕ੈքΛ੮ר 2023.3 NLP2023 ۓٸύωϧ ʮChatGPTͰࣗવݴޠॲཧ͸ऴΘΔͷ͔ʁʯ—— ೔ຊͷNLPݚڀऀ΋িܸΛڞ༗ 2026 ݱࡏ ڻ͖͸ബΕ͕ͨɺʮṖʯ͸ղফ͍ͯ͠ͳ͍ ໰͍ɿʮLLM͸ཧղͷೳྗΛ࣋ͬͨͷ͔ʁʯ——Yesͱஅݴ͢Δ͜ͱ΁ͷ᪳᪯ɻͦͷ᪳᪯ʹώϯτ͕͋Δɻ ग़యɿݴޠॲཧֶձୈ29ճ೥࣍େձʢNLP2023ʣۓٸύωϧ / ླ໦५ࢯεϥΠυʢslideshare.netʣ
5. Part 2ɿLLMͷ࢓૊Έ 5 / 18 େن໛ݴޠϞσϧʢLLMʣͱ͸Կ͔ ݴޠϞσϧͱ͸ɺݴ༿ʢ୯ޠ΍จͳͲʣͷग़ݱ֬཰Λද֬͢཰෼෍ɻ๲େͳݴޠσʔλΛ࢖ֶͬͯशͨ͠ɺ͜ ͷ֬཰෼෍ΛχϡʔϥϧωοτϫʔΫͱͯ͠ମݱͨ͠΋ͷ͕LLMͰ͋Δɻ ೖྗςΩετ ʮ͜ͷจষʹ͸ͲΜͳ จࣈ͕ଓͩ͘Ζʊʊʯ ▶ LLM ࣍ͷ୯ޠͷ ֬཰෼෍Λܭࢉ ▶ ग़ྗ ʮ͏͔ʁʯ ʢ֬཰ͷߴ͍ଓ͖ʣ 2000೥୅ʹ΋จ຤ิ׬͸Մೳ͕ͩͬͨɺ୹͍ϓϩϯϓτ͔Β௕͍จষΛੜ੒͢Δ͜ͱ͸ෆՄೳͩͬͨɻ͜ΕΛՄೳʹ͠ ͨͷ͕2010೥୅຤ͷٕज़ֵ৽Ͱ͋Δɻ
6. Part 2ɿLLMͷ࢓૊Έ 6 / 18 LLMΛՄೳʹٕͨ͠ज़తϒϨΠΫεϧʔ Transformer ΞʔΩςΫνϟ 2017೥ʹGoogleݚڀऀΒ͕ఏҊʢVaswani et al.ʮAttention Is All You NeedʯʣɻχϡʔϥϧωοτϫʔΫͷ৽͍͠ߏ଄Ͱɺେن ໛ݴޠϞσϧͷج൫ͱͳͬͨɻ ࣗݾ஫ҙػߏʢSelf-Attentionʣ ʮաڈͷࣗ෼ͷ్தॲཧ݁Ռʯʹ஫ҙΛ޲͚Δ࢓૊ΈʢԬ໺ݪ 2023ʣɻจষͷԕ͘཭Εͨ৘ใ΋׆༻ͯ࣍͠ͷ୯ޠΛ༧ଌͰ ͖ΔΑ͏ʹͳͬͨɻ In-context Learningʢຊจ಺ֶशʣ ϓϩϯϓτʹॻ͔ΕͨࢦࣔʹԠͯ͡Ԡ౴Λม͑Δೳྗɻಉ͡χϡʔϥϧωοτϫʔΫͳͷʹɺ͔͋ͨ΋ೖྗʹԠֶͯ͡श͠ ௚͍ͯ͠Δ͔ͷΑ͏ͳॊೈͳରԠ͕Մೳʹɻ ࣗݾڭࢣ͋Γֶश େن໛ίʔύεΛʮ౴͑ͷ͋Δ݀ຒΊ໰୊ʯʹͯ͠ղֶ͘श๏ɻਓखʹΑΔϥϕϧ෇͚ͳ͠ʹɺςΩετσʔλͷΈ͔Βେ ن໛ʹֶशΛਐΊΒΕΔɻ ग़యɿԬ໺ݪେีʢ2023ʣʰେن໛ݴޠϞσϧ͸৽ͨͳ஌ೳ͔ʱؠ೾ॻళ p.109 ΄͔
7. Part 2ɿLLMͷ࢓૊Έ 7 / 18 ࣄޙֶशɿʮॻ͖ͦ͏ͳ͜ͱʯ͔Βʮॻ͍ͯ΄͍͜͠ͱʯ΁ LLM͸୯ମͰ͸ʮਓ͕ॻ͖ͦ͏ͳ͜ͱʯΛग़ྗ͢Δ૷ஔʹͱͲ·Δɻର࿩γεςϜͱͯ͠ػೳ͢Δʹ͸ɺࣄޙֶ शʢpost-trainingʣ͕ඞཁͩͬͨɻ ࣄલֶशʢPre-trainingʣ େྔͷςΩετσʔλ͔Β࣍୯ޠ༧ଌΛֶशɻʮਓ͕ ॻ͖ͦ͏ͳʯςΩετΛੜ੒Ͱ͖ΔΑ͏ʹͳΔɻ ྫɿʮੲʑ͋Δͱ͜Ζʹ…ʯͷଓ͖Λੜ੒ ▶ ࣄޙֶशʢPost-trainingʣ ΠϯετϥΫγϣϯɾνϡʔχϯά ɹೖྗͱԠ౴ͷϖΞΛڭ͑ࠐΉ RLHFʢਓؒϑΟʔυόοΫ͔ΒͷڧԽֶशʣ ɹੜ੒จʹਓ͕ؒ༗༻ੑΛධՁ→࠶܇࿅ ݁ՌɿLLM͸ʮਓ͕ॻ͖ͦ͏ͳ͜ͱʯʹՃ͑ͯʮਓ͕ॻ͍ͯ΄͍͜͠ͱʯΛॻ͚ΔΑ͏ʹͳͬͨ
8. Part 2ɿLLMͷ࢓૊Έ 8 / 18 ݴޠϞσϧ͸ʮཧղʯ͍ͯ͠ΔΑ͏ʹݟ͑Δ͕… 2022೥ɺࣗવݴޠॲཧݚڀऀ480ਓΛର৅ͱͨ͠αʔϕΠͷ݁Ռɿ ʮςΩετσʔλͷΈͰֶशͨ͠ੜ੒ϞσϧͰ΋ɺे෼ͳσʔλྔͱܭࢉϦιʔε͕͋Ε͹ɺ͋Δఔ౓ͷ࣮࣭తͳ ҙຯʹ͓͍ͯࣗવݴޠΛཧղͰ͖ΔΑ͏ʹͳΔՄೳੑ͕͋Δʯ ಉҙ 51% ൓ର 49% → NLPݚڀͷઐ໳ՈͰ͑͞ɺݟղ͸΄΅ਅͬೋͭʹׂΕ͍ͯͨɻ 2026೥ʹಉ͡ௐࠪΛߦ͑͹ಉҙ͸૿͑Δ͔΋͠Εͳ͍͕ɺґવͱͯ͠ʮཧղ͍ͯ͠ͳ͍ʯͱߟ͑Δݚڀऀ΋͍ΔͩΖ͏ɻ Ͱ͸ͳͥʮཧղ͍ͯ͠ͳ͍ʯͱߟ͑Δͷ͔ʁ ग़యɿMichael et al. (2023) "What Do NLP Researchers Believe?" Proc. ACL 2023, pp.10720-10743
9. Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯ࿦ͷܥේ 9 / 18 ݹయతٞ࿦ᶃɿதࠃޠͷ෦԰ʢαʔϧ, 1980ʣ ࢥߟ࣮ݧ ෦԰ αʔϧ (தࠃޠΛ ཧղ͍ͯ͠ͳ͍) ӳޠ ϚχϡΞϧ தࠃޠ ೖྗ ▶ ▶ தࠃޠ ग़ྗ αʔϧͷओு ֎͔ΒݟΕ͹தࠃޠΛʮཧղʯ͍ͯ͠ ΔΑ͏ʹݟ͑Δ͕ɺ෦԰ͷதͷαʔϧ ࣗ਎͸தࠃޠΛશ͘ཧղ͍ͯ͠ͳ͍ɻ ಉ༷ʹɺϓϩάϥϜʢʹϚχϡΞϧʣ Λ࣮ߦ͢Δίϯϐϡʔλ΋ɺݴޠΛཧ ղ͍ͯ͠ͳ͍ɻ ⾠ ͨͩ͠஫ҙ αʔϧ͕ඪతͱͨ͠ͷ͸͋͘·Ͱه߸ૢ࡞ ϕʔεͷʮڧ͍AIʯͰ͋ΓɺLLM΁ͷ௚઀ͷ ద༻͸ࣗ໌Ͱ͸ͳ͍ɻ ग़యɿSearle, J.R. (1980) "Minds, brains, and programs" Behavioral and Brain Sciences 3(3), 417-424
10. Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯ࿦ͷܥේ 10 / 18 ݹయతٞ࿦ᶄɿه߸઀஍໰୊ʢϋʔφου, 1990ʣ ه߸઀஍໰୊ͱ͸ ه߸తAIʢsymbolic AIʣͰ͸ɺʮΓΜ͝ʯ→ʮՌ෺ʯ→ ʮ৯΂ΒΕΔʯͷΑ͏ʹɺه߸ಉ࢜Λ݁ͼ͚ͭͯਪ࿦ ͢Δɻ ͔͠͠ϋʔφου͸ࢦఠͨ͠ɿ͜ΕΒͷʮه߸ʯ͸ผ ͷʮه߸ʯͱ࿈͍݁ͯ͠Δ͚ͩͰɺݱ࣮ੈքͱͭͳ͕ͬ ͍ͯͳ͍ɻ ͦΕ͸੺ͪΌΜʹதࠃޠͷࣙॻ͚ͩΛ༩͑ͯݴ༿Λֶ ΂ͱݴ͏Α͏ͳ΋ͷɻ LLM͸ه߸઀஍͍ͯ͠ͳ͍ʁ ࠓҪΉͭΈɾळాتඒʢ2023ʣ͸ɺࠓ೔ͷAIΛʮه߸઀ ஍Λͤͣʹɺ͜ͱ͹ͷҙຯΛຊདྷతʹཧղ͠ͳͯ͘ ΋ɺϏοάσʔλͷதͷه߸Λඬྲྀ͠ଓֶ͚ͯशͰ͖ ΔAIʯͱಛ௃͚ͮͨɻ LLM͸ʮϦϯΰͷ੺͞ʯΛݟͨ͜ͱ΋ʮϦϯΰͷຯʯ΋ ஌Βͳ͍ɻςΩετͱ͍͏ه߸ͷੈքͷத͚ͩͰֶश ͍ͯ͠Δɻ ҰํͰɺ୩ޱ஧େʢ2016ʣ͸ɺϋʔφουͷҙຯͰͷه߸઀஍໰୊͸χϡʔϥϧωοτͷ࣌୅ʹ͸৐Γӽ͑ΒΕ͓ͯΓɺ໰͏ ΂͖͸ਓؒ΍ϩϘοτ͕͍͔ʹूஂతʹه߸Λ૑Γग़͔͢ͱ͍͏ʮه߸૑ൃ໰୊ʯͩͱओுɻ ग़యɿHarnad (1990) Physica D 42:335-346 / ࠓҪɾळా (2023)ʰݴޠͷຊ࣭ʱதԝެ࿦৽ࣾ / ୩ޱ (2016)ʰਓ޻஌ೳʱ31ר1߸
11. Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯ࿦ͷܥේ 11 / 18 ੜ੒AIॳظͷʮཧղ͍ͯ͠ͳ͍ʯ࿦ ChatGPTొ৔લޙʹසൟʹ࢖ΘΕͨදݱɿLLM͸ʮચ࿅͞ΕͨΦʔτίϯϓϦʔτʯʹա͗ͳ͍ɻҎԼ͸ͦͷ୅ දతͳٞ࿦ɻ ϠϯɾϧΧϯʢYann LeCunʣͷओு ʮ͜ΕΒͷγεςϜ͸ɺਓ͕݂ؒ࣋ͭͷ௨ͬͨࢥߟʢfull-bodied thinkingʣʹ͸ܾͯ͠ٴ͹ͳ͍ɺઙബͳཧղʹཹ ·Δɻʯ ʮݴޠͷΈͰֶशͨ͠γεςϜ͸ɺͨͱ͑ࠓ͜ͷॠ͔ؒΒӉ஦ͷ೤తࢮʹࢸΔ·ͰֶशΛଓ͚ͨͱͯ͠΋ɺਓؒ ͷ஌ೳʹۙͮ͘͜ͱ͸ܾͯ͠ͳ͍ɻʯ → LLMͷཧղ͸ʮઙ͍ʯɻઐ໳༻ޠΛ҉এ͢ΔֶੜͷΑ͏ͳʮ෺·Ͷʢmimickingʣʯʹա͗ͳ͍ɻ ಉ࣌ظʹ࢖ΘΕͨଞͷදݱɿ ֬཰࿦తͳΦ΢Ϝ (Stochastic Parrots) ڊେͳࢀরද (Giant Lookup Table) ચ࿅͞Εͨ ΦʔτίϯϓϦʔτ ग़యɿBrowning & LeCun (2022) "AI and the limits of language" Noema Magazine
12. Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯ࿦ͷܥේ 12 / 18 ͔͠͠ʮऑ఺ʯ͸ٸ଎ʹຒ·͍ͬͯͬͨ ࢉज़ܭࢉͷྫ GPT-3 (2020೥) ͷਖ਼౴཰ 2ܻͷ଍͠ࢉɿ΄΅100% 3ܻҎ্ɿਖ਼౴཰͕ٸམ →ʮཧղʯ͍ͯ͠Ε͹ى͜Βͳ͍ؒҧ͑ํɻ ͕ͩͦͷޙɺChain-of-thoughtਪ࿦ɺڧԽֶशʹΑΔ਺ ֶڭҭɺ֎෦πʔϧ׆༻ͳͲͰٸ଎ʹվળɻ 2026೥·Ͱʹ௥Ճ͞Εͨೳྗ • ϚϧνϞʔμϧԽʢը૾ɾԻ੠ɾಈըʣ • Webαʔνɾπʔϧར༻ػೳ • Chain-of-thoughtʢஈ֊తਪ࿦ʣ • কع͕ࢦͤΔϨϕϧʹʢGemini 3.0ʣ • େֶೖࢼΛಥഁ͢Δਪ࿦ྗ ৽Ҫلࢠ (2018)ɿ ܭࢉػʹͰ͖Δͷ͸࢛ଇԋࢉ͚ͩͰ͋ΓɺAI͸ʮҙຯΛཧղͯ͠ͳ͍ʯͱओுɻ ࣍ాॠ (2023)ɿ AIͷॲཧ͕࢛ଇԋࢉʹؐݩͰ͖Δ͜ͱ͸ɺҙຯΛཧղ͠ͳ͍ͱஅ͡Δܾఆతͳཧ༝ʹͳΒͳ͍ͷͰ͸ͳ͍͔ɺͱ൓࿦ɻ ग़యɿBrown et al. (2020) NeurIPS / ৽Ҫلࢠ (2018)ʰAI vs. ڭՊॻ͕ಡΊͳ͍ࢠͲ΋ͨͪʱ౦༸ܦࡁ৽ใࣾ / ࣍ాॠ (2023)ʰҙຯ͕Θ͔ΔAIೖ໳ʱஜຎॻ๪
13. Part 4ɿ2026೥ͷݱࡏ஍ 13 / 18 ઐ໳Ոͷ3ͭͷཱ৔ʢMitchell & Krakauer, 2023ʣ αϯλϑΣݚڀॴͷMitchellͱKrakauer͸ɺLLMͷཧղΛΊ͙Δ࿦૪Ͱද໌͞Ε͏Δ3ͭͷߟ͑ํΛ੔ཧͨ͠ɻ 1 ΧςΰϦʔΤϥʔ ݴޠτʔΫϯͷΈͰֶΜͩLLM͕Կ͔Λʮཧղʯ͠͏Δͱ͍͏ͷ͸ɺ୯७ʹΧςΰϦʔΤϥʔͰ͋Δɻཧղͱ͍͏ ֓೦Λؒҧͬͯؼଐ͍ͤͯ͞Δ͚ͩɻ 2 ֓೦Ϟσϧͷ֫ಘ΁ LLM͸͍ۙ͏ͪʹɺਓؒͷཧղʹͱͬͯத৺తͳʮ֓೦ʹجͮ͘৺తϞσϧʯΛ֫ಘ͠ɺਓؒͷΑ͏ʹཧղͰ͖Δ Α͏ʹͳΔɻ 3 ػೳత౳Ձ ͦ͏ͨ֓͠೦Λ΋ͨͣͯ͠΋ɺLLM͸ਓؒͷཧղͱػೳతʹ౳ՁͳೳྗΛ֫ಘ͢Δɻ֓೦͕ͳͯ͘΋ʮཧղ͍ͯ͠ Δʯͱݴ͑Δɻ ग़యɿMitchell & Krakauer (2023) "The debate over understanding in AI's large language models" PNAS 120(13)
14. Part 4ɿ2026೥ͷݱࡏ஍ 14 / 18 ʮݱ৅࿦తʹ͸ཧղ͍ͯ͠ΔʯʢԬ໺ݪ, 2023ʣ ݴޠϞσϧ͕࣮ࡍʹͲͷΑ͏ͳ಺෦දݱΛ֫ಘ͍ͯ͠Δͷ͔Λ෼ੳͨ݁͠Ռɺ୯ޠ΍۟୯ҐʹରԠ͢Δ಺෦දݱ ͕ɺਓ͕ݴޠΛॲཧ͢Δࡍʹ࢖͏֓೦ͱΑ͘ࣅ͍ͯΔ͜ͱ͕ࣔ͞Ε͍ͯΔɻ͞Βʹ͸ɺਓ͕ݴޠॲཧΛ໌ࣔతʹ ѻ͏ࡍʹ༻͍Δߏจߏ଄΍ɺҙຯͷ߹੒ϧʔϧͳͲ΋ɺֶशͷ݁Ռɺ֫ಘ͍ͯ͠Δ͜ͱ͕Θ͔͍ͬͯΔɻ ʮࠓͷ࣌఺Ͱ͸ɺݱ৅తʹਓ͕จ΍ݴޠΛཧղ͍ͯ͠ΔͷͱࣅͨޮՌΛݴޠϞσϧ͸ൃش͓ͯ͠Γɺݱ৅ ࿦తʹ͸ҙຯΛཧղ͍ͯ͠Δͱ͍͏ݟํ͕ద੾ͩΖ͏ɻʯ ͦ΋ͦ΋ਓ͕ͲͷΑ͏ʹͯ͠ݴޠͷҙຯΛͱΒ͑ॲཧ͍ͯ͠Δͷ͔Θ͔͍ͬͯͳ͍ɻܭࢉػଆ͔Βͱਓؒଆ͔Β ͷ૒ํ޲ͰɺݴޠॲཧͷཧղΛਐΊ͍ͯ͘ඞཁ͕͋Δɻ ग़యɿԬ໺ݪେีʢ2023ʣʰେن໛ݴޠϞσϧ͸৽ͨͳ஌ೳ͔ɿChatGPT͕ม͑ͨੈքʱؠ೾ॻళ pp.64-65
15. Part 4ɿ2026೥ͷݱࡏ஍ 15 / 18 ʮࢲͨͪࣗ਎΋༧ଌϚγϯͩʯʢAgüera y Arcasʣ Google LLM։ൃͷத৺ਓ෺Ͱ͋ΔBlaise Agüera y Arcasࢯ͸ɺAIʹؔ͢Δߟ͑ํ͕2019೥ࠒʹมΘͬͨͱड़΂͍ͯ Δɻ ֩৺తͳ࿦ཧ ① ςΩετ༧ଌ͸AI׬શʢAI-completeʣͳ໰୊Ͱ͋Δ ɹͲΜͳ೉໰΋ʮʢ௒೉͍͠໰୊ʣͷ౴͑͸ʊʊʯͷϓϩϯϓτܗࣜͰఏࣔͰ͖Δ͔Βɻ ② ڻ͘΂͖͜ͱʹɺ࣍୯ޠ༧ଌͷ܇࿅Ͱ࣮ࡍʹͦ͏ͨ͠ೳྗ͕ग़ݱͨ͠ ③ LLM͸ຊ෺ͷ஌ೳͰ͸ͳ͍ͱ͍͏ਓ͕͍Δ͕ɺ͜Ε͸ʮᣐͰΨΤϧݱ৅ʯ ɹࢲͨͪࣗ਎΋ɺڊେܭࢉʹΑΔ༧ଌϚγϯʢmassively computationally-scaled predictorʣͳͷͩɻ → Agüera y Arcasࢯͷ݁࿦ɿզʑ͸͢ͰʹAGIʢ൚༻ਓ޻஌ೳʣΛखʹ͍ͯ͠Δɻ ग़యɿAgüera y Arcas (2025) What Is Intelligence? MIT Press / 2025೥10݄౦ژߨԋʢචऀௌߨ࿥ɿrmaruy.hatenablog.comʣ
16. Part 4ɿ2026೥ͷݱࡏ஍ 16 / 18 ௚؍Λߋ৽͢Δ ͜Ε·Ͱͷ௚؍ ʮίϯϐϡʔλ͸࢛ଇԋࢉΛ͍ͯ͠Δʹ͗͢ͳ͍ʯ ʮLLM͸࣍୯ޠ༧ଌΛ͍ͯ͠Δʹ͗͢ͳ͍ʯ → ͔ͩΒཧղ͍ͯ͠ͳ͍ ▶ ߋ৽͞Εͨ௚؍ ʮʹ͗͢ͳ͍ʯͱ͍͏࿦๏͸ɺ΋͸΍ͦΕࣗମͰ͸ʮཧ ղ͍ͯ͠ͳ͍ʯ͜ͱͷূڌʹͳΒͳ͍ɻ AIݚڀऀͨͪ͸ɺཧղ΍஌ೳͷ࢓૊Έʹؔ͢ΔࣗΒͷ௚ ؍Λߋ৽͠Α͏ͱ͍ͯ͠Δɻ → ͜ͷΞοϓσʔτ͸AIݚڀऀҎ֎ʹ΋ٻΊΒΕΔ ͔͠͠ɺͦΕ͸LLMͷཧղͱਓؒͷཧղ͕ʮ׬શʹಉ͡ʯͩͱ͍͏͜ͱΛҙຯ͠ͳ͍ɻ͜͜ʹάϥσʔγ ϣϯ͕͋Δɻ
17. ·ͱΊɿ2ͭͷίϯηϯαε 1 LLMొ৔લʹਓʑ๊͕͍͍ͯͨʮཧղ͢ΔػցʯͷΠϝʔδʹɺ ༧૝Ҏ্ͷૣ͞Ͱ͍ۙͮͨɻ 2 ͔͠͠ɺͦΕ͸શ͘ਓؒͷཧղͱಉ͔͡ͱ͍͏ͱɺҧ͏ɻ ʮ΄΅ಉ͡ʯʮେମಉ͡ʯʮશવҧ͏ʯ…άϥσʔγϣϯ͕͋Δɻ ࿦૪͔Βࢲ͕ͨͪݟΔ΂͖͸ɺͲͪΒ͕ਖ਼͍͔͠Ͱ͸ͳ͘ɺ ࢍ੒͢Δਓͱ൓ର͢Δਓ͕ɺͲͷΑ͏ͳ௚؍Λ΋ͪɺͲͷΑ͏ͳՁ஋؍Λͦͷཱ৔ʹ൓ө͍ͯ͠Δͷ͔ɻ 17 / 18
18. ࣍ճ༧ࠂɿୈ2ճ ͳͥࢲͨͪ͸ʮཧղʯͷ͜ͱ͕ ؾʹͳΔͷ͔ʁ ཧղ͍ͯ͠ΔͬΆ͍ػցͷొ৔ʹΑΓɺࢲͨͪ͸શ͘৽͍͠஌తੜ࢈ͷಓ۩Λखʹ͍ͯ͠Δɻಉ࣌ʹɺࣗ ෼ͨͪʹݻ༗ͩͬͨཧղͷೳྗΛඋ͑ͨ৽ͨͳଘࡏʹ࣮ଘతͳةػײ΋๊͍͑ͯΔɻ ཧղͱ͍͏ೳྗɾঢ়ଶɾߦಈʹɺͲΜͳՁ஋͕͋Δͷ͔ɻ ݪจɿrmaruy.hatenablog.com | ࿈ࡌɿAIͱੜ͖Δ࣌୅ͷʪཧղʫߟ 18 / 18