アプリにAIを正しく組み込むための アーキテクチャ── 国産LLMの現実と実践

本資料は、2025年9月に開催した「InfiniCloud AI セミナー」における講演内容をベースに、2025年10月開催の「JAIPAの集い」向けセッション資料として再構成・アップデートし、さらに 2025年11月のハウスセミナー向けに解説および補足スライドを加筆したものです。

生成AI／LLMを「単なるAPI利用」や「ツール導入」に留めず、アプリケーションの中核機能としてどのように組み込むべきかという観点から、
• LLMの内部構造（Parameter / Context）
• RAG・LoRA・Fine-Tuningといった技術の役割整理
• Public AI・OSS LLM・Private AIの関係性
• LLMaaS（Language Model as a Service）として成立させるためのアーキテクチャ
• 運用・主権・分散を前提としたPrivate AIの位置づけ

を、理論〜実運用・実装の視点をつなぐ形で整理しています。

本資料は、特定のアルゴリズムや実装手法の詳細を公開するものではなく、AI時代におけるアプリケーション設計・インフラ設計の「考え方」と「構造」を共有することを目的としています。

AIを活用したサービス開発に関わるエンジニア、SIer、データセンター事業者、およびAI基盤・クラウド基盤の将来像を検討する立場の方に向けた、実践的かつ議論可能なセッション資料です。

1. ΞϓϦʹ"*Λਖ਼͘͠૊ΈࠐΉͨΊͷ ΞʔΩςΫνϟᴷᴷ
   ࠃ࢈--.ͷݱ࣮ͱ࣮ફ *OGJOJ$MPVEגࣜձࣾ ୅දऔక໾$&0 ୍ ߁࢙ 
2. 4BGF
   )BSCPS
   4UBUFNFOU ҎԼ͸ɺ౰͕ࣾఏڙ͢ΔαʔϏεɺ੡඼ʹ͍ͭͯҰൠతͳ੡඼ํ਑ͷ֓ཁͷઆ໌͢Δ͜ͱͷΈΛ໨తͱ͍ͯ͠·͢ɻ·ͨɺؔ࿈͢ΔଞࣾαʔϏεͳͲ ʹؔͯ͠͸ɺҰൠʹެ։͞Ε͍ͯΔ৘ใ͔Βɺ౰ࣾʹͯ৘ใΛ੔ཧ͠ɺ৘ใఏڙͷΈΛ໨తͱ͍ͯ͠·͢ɻ ͜ΕΒ͸ɺ͍͔ͳΔܖ໿ʹ΋૊ΈࠐΉ͜ͱ͸Ͱ͖ͣɺ͍͔ͳΔࢿྉɺίʔυɺ·ͨ͸ػೳͷఏڙΛ໿ଋ͢Δ΋ͷͰ͸ͳ͘ɺܖ໿ɺߪೖͷܾఆΛߦ͏ࡍ ʹґڌ͢΂͖΋ͷͰ͸͋Γ·ͤΜɻ౰͕ࣾఏڙ͢ΔαʔϏεɺ੡඼ʹ͍ͭͯهࡌ͞Ε͍ͯΔػೳ·ͨ͸ಛੑͷ։ൃɺϦϦʔεɺ͓Αͼ੡଄͸ɺ౰ࣾɺ ·ͨ͸։ൃݩͷ୯ಠͷࡋྔʹΑΓߦΘΕ·͢ɻ 5IF
   GPMMPXJOH
   JT
   JOUFOEFE
   POMZ
   UP
   QSPWJEF
   BO
   PWFSWJFX
   PG
   UIF
   HFOFSBM
   QSPEVDU
   QPMJDZ
   PG
   UIF
   TFSWJDFT
   BOE
   QSPEVDUT
   XF
   QSPWJEF
   *O
   BEEJUJPO
   XJUI
   SFHBSE
   UP
   SFMBUFE
   TFSWJDFT
   PG
   PUIFS
   DPNQBOJFT
   XF
   IBWF
   DPNQJMFE
   JOGPSNBUJPO
   GSPN
   QVCMJDMZ
   BWBJMBCMF
   JOGPSNBUJPO
   BOE
   BSF
   QSPWJEJOH
   JU
   GPS
   JOGPSNBUJPOBM
   QVSQPTFT
   POMZ 5IFZ
   NBZ
   OPU
   CF
   JODPSQPSBUFE
   JOUP
   BOZ
   DPOUSBDU
   BSF
   OPU
   B
   QSPNJTF
   UP
   QSPWJEF
   BOZ
   NBUFSJBMT
   DPEF
   PS
   GVODUJPOBMJUZ
   BOE
   TIPVME
   OPU
   CF
   SFMJFE
   VQPO
   XIFO
   NBLJOH
   DPOUSBDUVBM
   PS
   QVSDIBTJOH
   EFDJTJPOT
   5IF
   EFWFMPQNFOU
   SFMFBTF
   BOE
   NBOVGBDUVSF
   PG
   BOZ
   GFBUVSFT
   PS
   DIBSBDUFSJTUJDT
   EFTDSJCFE
   JO
   UIF
   TFSWJDFT
   BOE
   QSPEVDUT
   XF
   QSPWJEF
   BSF
   BU
   UIF
   TPMF
   EJTDSFUJPO
   PG
   PVS
   DPNQBOZ
   PS
   UIF
   EFWFMPQFS ຊࢿྉʹهࡌ͞Ε͍ͯΔ౰ࣾͷ໊শɺϩΰɺ͓Αͼͦͷଞͷ੡඼ɾαʔϏε໊͸ɺొ࿥঎ඪ·ͨ͸঎ඪͰ͢ɻ͜ΕΒͷ঎ඪ͸ɺ౰ࣾͷॻ໘ʹΑΔࣄલ ͷڐՄͳ͘࢖༻͢Δ͜ͱ͸Ͱ͖·ͤΜɻ·ͨɺຊࢿྉʹهࡌ͞Ε͍ͯΔͦͷଞͷاۀ໊ɺ੡඼໊ɺαʔϏε໊͸ɺͦΕͧΕͷॴ༗ऀͷ঎ඪ·ͨ͸ొ࿥ ঎ඪͰ͋Γɺ͜ΕΒͷ࢖༻͸ɺ౰֘اۀͷڐՄΛಘͯߦ͏ඞཁ͕͋Γ·͢ɻ঎ඪʹؔ͢Δ͢΂ͯͷݖར͸ɺ֤ݖརॴ༗ऀʹؼଐ͠·͢ɻ 0VS
   OBNFT
   MPHPT
   BOE
   PUIFS
   QSPEVDU
   BOE
   TFSWJDF
   OBNFT
   NFOUJPOFE
   JO
   UIJT
   EPDVNFOU
   BSF
   SFHJTUFSFE
   USBEFNBSLT
   PS
   USBEFNBSLT
   5IFTF
   USBEFNBSLT
   NBZ
   OPU
   CF
   VTFE
   XJUIPVU
   PVS
   QSJPS
   XSJUUFO
   QFSNJTTJPO
   *O
   BEEJUJPO
   PUIFS
   DPNQBOZ
   OBNFT
   QSPEVDU
   OBNFT
   BOE
   TFSWJDF
   OBNFT
   NFOUJPOFE
   JO
   UIJT
   EPDVNFOU
   BSF
   USBEFNBSLT
   PS
   SFHJTUFSFE
   USBEFNBSLT
   PG
   UIFJS
   SFTQFDUJWF
   PXOFST
   BOE
   UIFJS
   VTF
   NVTU
   CF
   QFSNJUUFE
   CZ
   UIF
   SFMFWBOU
   DPNQBOJFT
   "MM
   SJHIUT
   UP
   USBEFNBSLT
   CFMPOH
   UP
   UIFJS
   SFTQFDUJWF
   PXOFST
3. ࣗݾ঺հ ʙܦྺʙʲ
   
   ʳ ୍
   ߁࢙
   :BTVTIJ
   5BLJ
   
   
   *OGJOJ$MPVEגࣜձࣾ ୅දऔక໾$&0 ೥ʙ೥ ύιίϯ༻ઐ໳ࢽʮ0I9ʯ ιϑτόϯΫग़൛ ʹͯςΫχΧϧϥΠλʔɻ ೥
   ౦ژిػେֶ޻ֶ෦ిࢠ޻ֶՊଔۀ ʙ೥ גࣜձࣾιχʔɾίϯϐϡʔλΤϯλςΠϯϝϯτʹͯɺ
   1MBZ4UBUJPO༻ήʔϜ ιϑτɺΫϥογϡόϯσΟΫʔͷΞγελϯτϓϩσϡʔαʔɻ ʙ೥ גࣜձࣾϙϦϑΥχʔσδλϧ ݱɺגࣜձࣾιχʔɾΠϯλϥΫςΟϒΤϯλ ςΠϯϝϯτܥྻ ʹͯɺΦϝΨϒʔετɺάϥϯπʔϦεϞͷϓϥϯφʔɺ σΟϨΫλʔͳͲΛ୲౰ɻ ೥ ༗ݶձࣾδϟετϓϨΠϠʔ ݱ*OGJOJ$MPVEגࣜձࣾ ىۀ ೥ 0SBDMF
   &YDFMMFODF
   "XBSE
   GPS
   *OGSBTUSVDUVSF
   5SBOTGPSNBUJPO ड৆ ʙ೥ ੩Ԭݝܯ࡯ʮαΠόʔ൜ࡑରࡦςΫχΧϧΞυόΠβʔʯड৤
4. ࣗݾ঺հ ʙϏδωεͷߟ͑ํʙ ೥ɻυοτίϜόϒϧ͕͸͚ͨ͡௚ޙʹࢲ͕*OGJOJ$MPVE ʢ౰࣌͸༗ݶձࣾδϟετϓϨΠϠʔʣΛ্ཱͪ͛ͨࠒɺʮͳ ͥ೔ຊ͸๛͔ͳͷ͔ʯͱࣗ໰ͨ͜͠ͱ͕͋Γ·ͨ͠ɻ ए͔ͬͨࢲͷ౴͑͸ʮ೔ຊ͸ɺࣗࠃͷΠϯϑϥΛࣗࠃͰఏڙ͠ ͖͔ͯͨΒʯɻ િ૆෕ͨͪ͸ɺిؾ΍ి࿩ͱ͍ͬͨج൫Λࠃ಺Ͱ੔͑ɺ౮ΓΛ ఺ͨ͢ͼʹࠃ֎΁͓͕ۚྲྀΕΔ͜ͱΛ๷͍Ͱ͍ͨͷͰ͢ɻ ͔ͩΒɺΠϯλʔωοτͰ΋ɺಉ͡ݒ೦Λײ͍ͯ͡·ͨ͠ɻ ਓਓ͕ΫϦοΫ͢Δͨͼʹɺগͣͭ͠ࠃ֎΁͓͕ۚྲྀΕΔະ དྷɻͨͩɺͦΕΛࢭΊΔͷ͸զʑͰ͸ͳ͘ɺେاۀͩΖ͏ͱ؁ ͍͑ͯͨͷͰ͢ɻ ͔͠͠ࠓɺօ͞Μͷ஌ͬͯΔͱ͓Γͷੈք͕͖·ͨ͠ɻࢲͨͪ ͸ඍྗͰ͕͢ɺͦͷྲྀΕΛগ͠Ͱ΋ม͍͑ͨͱئ͍ͬͯ·͢ɻ ʮΦϧλφςΟϒΫϥ΢υʯΛ࡞ΔͨΊʹɻ ࢲͨͪͷ໨ඪ͸ɺ೔ຊͷ*5ۀքͱڞʹาΈɺ෼ࢄ͠ͳ͕Βࢧ͑ ߹͏͜ͱɻ ΤϯδχΞͷগͳ͍͜ͷࠃͰɺࡂ֐ʹڧ͘ɺ࣋ଓՄೳͳ*5Πϯ ϑϥΛங͖ɺڞʹະདྷΛͭ͘Δɻ ͦΕ͕*OGJOJ$MPVEͷ૑ۀऀͰ͋Δࢲͷ৴೦Ͱ͢ɻ
5. *OGJOJ$MPVEͷٕज़ͷྺ࢙ ೥ʙ ೥ ##
   αʔόαʔϏε։࢝ -JOVYɺ4PMBSJT
   41"3$౳ ೥ʙ ೥ʙ ೥ʙ ೥ʙ ೥ 8FC
   $.4
   8*,*1-64 4BB4 ೥ Ϋϥ΢υαʔϏε ( 7JSUVBM
   %BUB$FOUFS 4FSWJDF 4PMBSJT
   $POUBJOFSٕज़Λར༻ 5JFSܕ &OUFSQSJTF
   4UPSBHF ೥ Ϋϥ΢υαʔϏε ( 1IBTF4FSWFS
   4PMBSJT
   Y 7.XBSF
   1SJWBUF
   $MPVE։࢝ "MUFSOBUJWF
   $MPVE΁ ੒௕த ೥ Ϋϥ΢υαʔϏε ( ੩Ԭɺԣ඿ϦʔδϣϯͰ%3։࢝ 4PMBSJT
   41"3$
   1SJWBUF
   $MPVE &OUFSQSJTF
   4UPSBHFʹ44%ಋೖ 1SJWBUF
   $POOFDU چ-&UIFS ೥ ΦϯϥΠϯετϨʔδ *OGJOJ$-06% چ5FSB$-06% ఏڙ։࢝ ೥ Ϋϥ΢υαʔϏε ( ౦ژɺେࡕϦʔδϣϯ։࢝ )JHI
   3FTQPOTF
   1SJWBUF
   $MPVE։࢝ چ9FO
   1SJWBUF
   $MPVE &OUFSQSJTF
   4UPSBHF
   ׬શ44% 7.XBSF༻4UPSBHF 7""*ରԠ ೥ Ϋϥ΢υαʔϏε ( $16ߴ଎Խ ೥ Ϋϥ΢υαʔϏε (ɺ(T ۝भϦʔδϣϯ։࢝  1VCMJD
   $MPVE
   -JOL *OUFSSFHJPOBM
   'BCSJDɺΫϥ΢υܕ71/౳ ೥ Ϋϥ΢υαʔϏε (U $16ߴ଎Խ ೥ Ϋϥ΢υαʔϏε (G ιϒϦϯΫϥ΢υ࣮ݱͷҝʹ0&.ఏڙ։࢝ )31$Λ୤7.XBSFʹϑΥʔΧε )31$
   ,7.Ϟσϧ௥Ճ )5514 (BUFXBZ 0&.ࣄۀ։࢝ )31$
   (Gͷ0&.ఏڙ։࢝ ϓϥΠϕʔτΫϥ΢υΞϓϥΠΞϯε )31$
   (GͷΞϓϥΠΞϯεൢച։࢝ *OGJOJ$MPVE
   )7 ೥ *OGJOJ$MPVE
   "* IUUQTJOGJOJDMPVEDPNQSPEVDU@HFOFSBUJPOIUNM
6. *OGJOJ$MPVEͷΫϥ΢υϑΝϒϦοΫ  ʙNT ʙNT ʙNT ʙNT ʙNT *OGJOJ$MPVE
   'BCSJD΁ͷ઀ଓ͸ɺԼهͷख๏Ͱ઀ଓՄೳͰ͢ɻ ɾ!5PLZP
   "5#F9 IUUQTBUCFYBUUPLZPDPKQTFSWJDFDMPVEDPOOFDUJPO ɾ&RVJOJY
   'BCSJD ɾ50,"*
   #SPBEMJOF ɾ/55౦੢ϑϨοπΫϩεɺޫωΫετͳͲʹରԠ σʔληϯλʔΛ࣋ͨͳ͍ʮΫϥ΢υ԰ʯͰ͢ • ೔ຊͷ༷ʑͳΤϦΞͷσʔληϯλʔձࣾͷϑΝγϦςΟΛར༻͠ɺ • ͦ͜΁ճઢΛҾ͖ࠐΈɺ • *9ʹ઀ଓͨ͠ΓτϥϯδοτΛങͬͯɺ • ࣗࣾͰΫϥ΢υ'BCSJDΛͭ͘Γɺ • ༷ʑͳσʔληϯλʔ΁ͱ઀ଓ͢Δ "4
   
   0QFO એ఻
7. *OGJOJ$MPVEš
   )7ͱ͸ *OGJOJ$MPVEš
   )7͸ɺࠃ࢈ϋΠύʔόΠβʔͰ͢ɻ ຊϋΠύʔόΠβʔ͸౰ࣾͷΫϥ΢υαʔϏεͷݱ৔Ͱ೥ΑΓ ഓͬͨϋΠύʔόΠβʔӡ༻ϊ΢ϋ΢Λ΋ͱʹɺΦʔϓϯιʔεԾ ૝Խٕज़Λ૊Έ߹ΘͤͯΤϯλʔϓϥΠζӡ༻ཁ݅ʹಛԽͨ͠ϋΠ ύʔόΠβʔͰ͢ɻ ϕϯμʔϩοΫΠϯΛ๷͙ͱͱ΋ʹɺاۀγε ςϜʹٻΊΒΕΔߴ͍҆ఆੑɺ৴པੑɺॊೈੑΛ࣮ݱ͍ͯ͠·͢ɻ 7.XBSF͔ΒͷεϜʔζͳҠߦ 7.XBSFΛ͸͡Ίͱ͢ΔطଘͷԾ૝Խ؀ڥ͔ΒͷεϜʔζͳҠߦΛ ࣮ݱ͠ɺӡ༻ޮ཰ͱίετͷ࠷దԽΛཱ྆ͤ͞·͢ɻઐ༻ͷΠϯ ϙʔτػೳ΍ωοτϫʔΫαʔϏεΛར༻͢Δ͜ͱͰɺ*1ΞυϨε ͷมߋͳ͠Ͱμ΢ϯλΠϜΛ࠷খݶʹ཈͑ͨҠߦ͕ՄೳͰ͢ɻ σʔλओݖʢιϒϦϯΫϥ΢υʣΛकΔ Φʔϓϯٕज़Λϕʔεʹ͢Δ͜ͱͰɺσʔλΛاۀ͕อ࣋͠ɺϓϩ ϓϥΠΤλϦͳιϦϡʔγϣϯ΁ͷґଘΛͳ͘͠ɺσʔλओݖʢι ϒϦϯΫϥ΢υʣΛ֬อ͠·͢ɻ Ծ૝ϚγϯΛҰݩ؅ཧɻ 1SPYNPY
   7&ʗ7BUFT
   7.4ʹΑΔΦʔέετϨʔγϣϯ એ఻
8. "*͸ΞϓϦͷத֩ʹҠಈ͢Δ 
9. օ͞Μɺ͜ͷΞϓϦΛ஌ͬͯ·͔͢ʁ ØJ;:3&$
   1MBVE
   "*
   /PUF
   5BLFS Ø
   3BUJOH Ø݁ߏചΕͯΔΒ͍͠Ͱ͢ %FWFMPQFSͷʮJ;:3&$ʯ͕ɺͦͷલʹ࡞ ͬͯͨΞϓϦ͸͝ଘ͡Ͱ͔͢ʁ 
10. Ͱ͸ɺͪ͜ΒͷΞϓϦ͸஌ͬͯ·͔͢ʁ ØJ;:3&$
    1MBVE
    㲔 J;:3&$
    3FDPSEFS
    
    8IJTQFSBJ
    
    $IBU(15
    "1*  "*ʹΑͬͯΞϓϦ͸มԽ͢Δʂ Ի੠σʔλ 8IJTQFSBJ 4QFBLFSຖͷ5SBOTDSJQU &EHF
    "*ܥٕज़ -. ཁ໿Խ จষ ೖྗ ग़ྗ ػೳͱͯ͠ͷ-.
11. ιϑτ΢ΣΞ͸ɺ-.͋Γ͖Ͱ࡞Γ௚͞ΕΔ  -. $IBUͳͲ ΛΠϯλϑΣΠεͱ͠ɺ༷ʑͳ πʔϧ͕ಈ͖ɺ͞ΒʹΧεέʔυ͍ͯ͘͠ύλ ʔϯ ࠓ·ͰͷΞϓϦͷϑΝϯΫγϣϯΤʔδΣϯ τͱͯ͠ɺ-.͕ଘࡏ͢Δύλʔϯɻ IUUQTBSYJWPSHBCT NVIDIA Research: Small Language Models are the Future of Agentic AI
12. ىҊऀ தؒঝೝऀ ఆྔత֬ೝ ૯຿ɾࣄ຿ہ ܾࡋऀ Work Flow ਃ੥ ਃ੥ ਃ੥ ྫɿ᜛ٞਃ੥γεςϜ ϫʔΫϑϩ ʮʯ
13. ىҊऀ தؒঝೝऀ ఆྔత֬ೝ ૯຿ɾࣄ຿ہ ܾࡋऀ Work Flow ਃ੥ ਃ੥ ਃ੥ ྫɿ᜛ٞਃ੥γεςϜ ϫʔΫϑϩ ʮʯ ᜛ٞ ࢿྉ ఴ ෇ ఴ ෇ ఴ ෇ ఴ ෇ 3FWJFX 3FWJFX 3FWJFX "TTJTU "TTJTU "TTJTU "TTJTU 5FNQMBUF
14. ΞϓϦ4BB4ʹ૊Έࠐ·ΕΔ"*ྫ ࣄ࣮ ØఆྔతධՁ͸ػցͷํ͕ಘҙ ØఆੑతධՁ͸ਓ͔ؒ͠Ͱ͖ͳ͍ ਓؒͷ࢓ࣄ͸ʜʜ Øػցͷग़͢ఆྔతσʔλΛཧղ͠ɺ ØఆੑతධՁΛՃ͑ͯɺ Ø੹೚ ϦεΫ ΛͱΔͷ͕࢓ࣄɻ ØςϯϓϨʔτ࡞੒ͳͲͷϑϩʔ  σʔλ ݁࿦ ೖྗ -. ςϯϓϨʔτ࡞੒ %BUB
    4FBSDI ஝ੵσʔλͳͲΛݕࡧ ఆੑ൑அ ఆྔσʔλ ਓؒ
15. ྫɿిࢠΧϧςαϙʔτγεςϜFUD ØిࢠΧϧςͷσʔλΛֶश͠ɺઌߦࣄྫ σʔλΛݟͯߟ͑ΒΕΔࣄྫΛग़͢ɻ • ݁࿦͸ʮҩࢣʯ͕ग़͢ɻ Øαϙʔτه࿥ͷσʔλΛֶश͠ɺઌߦࣄ ྫ͔Βɺߟ͑ΒΕΔσʔλΛग़͢ɻ • ϢʔβʔɾηϧϑαʔϏεͰͷࣗݾղܾ • αϙηϯͰͷσʔλϕʔε "*͕ແ͚Ε͹ɺγεςϜ͕ಈ࡞͠ͳ͍ 㲔Ͱ͖Δ͕ɺϢʔβͷར༻͕ਐ·ͳ͍ 
16. ୯ҰλεΫ ดҬωοτϫʔΫ࿈ܞ 8FC
    "1*࣌୅ ϑΝΠϧ࿈ܞ 8FCΞϓϦ "*ʹΑΔࣗ཯Խ "*ͰมΘΔʮΞϓϦαʔϏεʯͷ͋Γํͷ࠶ఆٛ ϝΠϯϑϨʔϜ Φϑίϯ .4%04 8JOEPXT6/*9 *OUFSOFU $MPVE "*͸ʮιϑτ΢ΣΞʯΛม͍͑ͯ͘ʮத֩ʯʹͳ͖ͬͯͨɻ "*
17. 1 Summarization "*͕จॻɺձ࿩ɺه࿥Λड͚औΓɺຊ࣭ తͳ৘ใΛͷΈΛநग़͢ΔλεΫ 3 Generation "*͕ਓؒ΍γεςϜͱࣗવݴޠͰ ΍ΓऔΓ͠ɺճ౴ɾจॻɾίʔυ ɾࢦࣔΛੜ੒͢ΔλεΫɻ $IBUΠϯλϑΣΠε͕ଟ͍ɻ "*΁ͷґଘ͕ਐΉࣾձ 2 Decision Support "*͕աڈσʔλ΍ɺϧʔϧɾφϨοδΛجʹɺ ਪ࿦ɺൺֱɺఏҊɺγϛϡϨʔγϣϯΛߦ͏λ εΫɻਓͷ൑அΛิڧɾ୅ସ͢Δ ւ֎ͷ
    "*
18. "*͕࢖͑ͳ͚Ε͹ࣾձ͕ࢭ·Δ શͯͷΞϓϦ͕ɺ1VCMJD
    "*ʹґଘͨ͠ΒͲ ͏ͳΔͷ͔ʁ ØαʔϏεμ΢ϯͨ͠Βʁ ØΞϝϦΧର֎ઢ͕੾ΕͨΒʁ Ø੓ݖ͕มΘͬͯ࢖͑ͳ͘ͳͬͨΒʁ Ø಺༰Λશͯ؂ࢹ͞Ε͍ͯͨΒʁ Ø஌ೳͷࢧ഑ݖ͸ҕͶΒΕΔͷ͔ʁ 7.XBSF໰୊ͱಉ͡Ͱɺ4PGUXBSF
    4VQQMZ
    $IBJO͸ɺओݖʹؔΘΔ໰୊ʹͳΓ·͢  ւ֎ͷ
    "*
19. "*ͷϝΧχζϜ 044ͷ--.ʮ͚ͩʯ͡Όɺ୅ସʹ͸ͳΒͳ͍ɻ 
20. ΦʔϓϯϥϯήʔδϞσϧͷߴੑೳԽ Ø  • ݄ Š
    .15#ʢ.PTBJD.-ʣެ։ɻ • ʙ݄ Š
    'BMDPO #
    ެ։ɻ • ݄ Š
    -MBNB ʢ.FUBʣެ։ɻ • ݄ Š
    .JTUSBM #
    ެ։ɻ • ݄ Š
    :J#
    ެ։ɻ • ݄ Š
    .JYUSBM º#
    ެ։ɻ Ø  • ݄ Š
    0-.P #ʢ"*ʣެ։ɻ • ݄ Š
    %#39ʢ%BUBCSJDLTʣެ։ɻ • ݄ Š
    1IJʢ.JDSPTPGUʣެ։ɻ • ݄ Š
    2XFO 
    ެ։ɻ • ݄ Š
    (FNNB ʢ(PPHMFʣެ։ɻ • ݄ Š
    2XFO 
    ެ։ɻ Ø  • ݄ Š
    %FFQ4FFL3
    ެ։ɻ • ݄ Š
    2XFO
    
    ܥྻͷ֦ுϞσϧެ։ɻ • ݄ ೔ Š
    2XFO
    
    ެ։ɻ • ݄ʙ
    Š
    ͦͷଞվྑ൛ʗৠཹ൛ΦʔϓϯϞσϧొ৔ɻ • ݄ ೔ Š
    (15044ʢHQUPTTC
    
    HQUPTTCʣެ։ɻ • ݄ ೔ Š
    2XFO$PEFSʢ2XFO$PEFSʣެ։ɻ • ݄ Š
    2XFO.BYʢ2XFO.BYʣ͓Αͼ 2XFO/FYUʢ2XFO/FYUʣެ։ɻ 
21. 044--.ͷΠϊϕʔγϣϯϑΣʔζ 044ͷ--.͸ɺ ΩϟζϜΛӽ͑ͨͱݴͬͯ ྑ͍ੑೳ΁ʂ ɾMMBNB ɾRXFO ɾHQUPTT ೥લޙͷ%# ೥લޙͷ%# ɾ1PTUHSF42- ɾ.Z42- ɾ0SBDMF
    %# ɾ*#.
    %# ɾ1PTUHSF42- ɾ.BSJB%# ɾ0SBDMF
    %# ɾ*#.
    %# ˙%#ͱͷൺֱΠϝʔδ
22. ೔ຊ੡--. Ϟσϧ໊ ։ൃݩ ύϥϝʔλن໛ ΦʔϓϯϞσϧ ϥΠηϯε MMNKQC
    
    MMNKQC
    
    MMNKQ. --.KQʢࠃϓϩʣ #
    
    #
    
    . :FT "QBDIF
    ʢଟ͕͘ 044ʣ 1-B.P# 1'/ # :FT "QBDIF
     +BQBOFTF
    4UBCMF-.
    #BTF
    "MQIB
    
    *OTUSVDU 4UBCJMJUZ
    "*
    +BQBO #
    ͳͲ :FT "QBDIF
     4UPDLNBSL#
    
    4UPDLNBSL*OTUSVDU 4UPDLNBSL # 1BSUJBMʢඇ঎༻ʣ $$
    #:/$4" $ZCFS"HFOU-.
    
    $ZCFS"HFOU-.
    
    -. $ZCFS"HFOU #ʙ#ڃ :FT "QBDIF
     ,BSBTV
    
    BP,BSBTVʢ-JHIUCMVFʣ -*()5#-6&
    5FDIOPMPHZ େن໛ʢ#ڃใಓʣ 1BSUJBM
    
    ཁ֬ೝ ཁ໰͍߹Θͤ DPUPNJ /&$ؔ܎ͳͲ #ʙఔ౓ʢܰʙதن໛ʣ 1BSUJBM ཁ໰͍߹Θͤ  ˞஫ҙʂ $IBU
    (15ͱஶऀௐ΂Ͱ͢ ݫີʹਖ਼͔֬Ͳ͏͔͸νΣοΫ͠ਚ͍ͯ͘͠·ͤΜ͕ʮจ຺ͱͯ͠ࠓޙʹେ͍ʹظ଴Ͱ͖Δʯͱ͍͏࿩ͳͷͰؒҧ͍͕͋ͬͨΒ ͝צหΛʜʜ
23. "*ͷٕज़ελοΫϨΠϠʔ Ø4BB4"QQ8FC6*૚ • Ϣʔβʹఏڙ͢Δ૚ Ø--.BB4 "1* ૚ • 4BB4"1*ͱϞσϧΛܨ͙૚ ØϥϯήʔδϞσϧ૚ • -.Τϯδϯʴ-. Øϛυϧ΢ΣΞ • 5SBOTGPSNFS
    
    1ZUPSDI • O7JEJB
    $6%"
    
    .FUBM
    Øαʔό੍ޚٕज़ • -PBE
    #BOBDJOHԾ૝Խٕज़ Øϋʔυ΢ΣΞ • O7JEJB".%*OUFM(PPHMFͷ(16 • αʔό *BB4ͱಉ͡Α͏ʹϨΠϠʔ͕͋Γ·͢ αʔό %SJWFS (16 ϑΝγϦςΟ 5SBOTGPSNFS -. &OHJOF
    -. --.BB4 4BB4 8FC6* ۭྫྷ 6 ۭྫྷ 6 MMBNBDQQ ਫྫྷ ಛԽ %$ O7JEJB ".% "QQMF
    4JMJDPO DVEB .FUBM DV#-"4 30$N 1Z5PSDI HHNM )*1#-"4 W--. ਫྫྷ௨ৗ %$ MMBNB RXFO (15044 EFFQTFFL $MBVEF
    "1* 0QFO"*
    "1* (FNJOJ
    "1* "QQT
24. ೔ຊͷ"* --. ͷϏδωεΞΫλʔϨΠϠʔ Ø4BB4"QQϓϩόΠμ • ࿩୊ͷ˓˓"*Λ࢖ͬͯ৽͍͠Ϗδω εΛ૑ग़͢Δձࣾˠ୔ࢁ͍Δ Ø-.BB4ϓϩόΠμ • ݁ߏগͳ͍ʁʁ ØϥϯήʔδϞσϧ • େֶΛத৺ͱͨ͠ݚڀػؔ͋Γʂ ØΫϥ΢υ(16ϓϩόΠμ • ͘͞ΒΠϯλʔωοτ͞ΜɺϋΠϨ κ͞ΜͳͲͷ(16ϓϩόΠμ͋Γ -.BB4༻Τϯδϯ͕ͳ͍ αʔό %SJWFS (16 ϑΝγϦςΟ 5SBOTGPSNFS -. &OHJOF
    -. --.BB4 4BB4 8FC6* ۭྫྷ 6 ۭྫྷ 6 MMBNBDQQ ਫྫྷ ಛԽ %$ O7JEJB ".% "QQMF
    4JMJDPO DVEB .FUBM DV#-"4 30$N 1Z5PSDI HHNM )*1#-"4 W--. ਫྫྷ௨ৗ %$ MMBNB RXFO (15044 EFFQTFFL "QQT
25. -.BB4ʹඞཁͳٕज़ Ø ϚϧνηογϣϯରԠ Ø ෛՙ෼ࢄରԠ Ø ίϯςφٕज़ • ͨͩ͠ۃΊͯ૬ੑ͕ѱ͍෦෼༗Γ Ø ϋΠύόΠβ )7 ٕज़ Ø ετϨʔδ੍ޚٕज़ Ø ωοτϫʔΫ੍ޚٕज़ Ø Ϧιʔε੍ޚٕज़ • 3".73".ྔΛ੍ޚ͢Δ Ø --.ٕज़ • --.Λίϯτϩʔϧ͢Δ·Ͱͷٕज़ Ø "*ٕज़ • ֎ૠٕज़ • ಺ૠٕज़ • ύΠϓϥΠϯ੍ޚ • ϚϧνϞʔμϧ΁ͷରԠ -.BB4༻ͷΤϯδϯͱͯ͠ͷ4IJSBJUP αʔό %SJWFS (16 ϑΝγϦςΟ 5SBOTGPSNFS -. &OHJOF
    -. --.BB4 4BB4 8FC6* ۭྫྷ 6 ۭྫྷ 6 MMBNBDQQ ਫྫྷ ಛԽ %$ O7JEJB ".% "QQMF
    4JMJDPO DVEB .FUBM DV#-"4 30$N 1Z5PSDI HHNM )*1#-"4 W--. ਫྫྷ௨ৗ %$ MMBNB RXFO (15044 EFFQTFFL "QQT
26. 4NBMM
    -BOHVBHF
    .PEFMT
    BSF
    UIF
    'VUVSF
    PG
    "HFOUJD
    "*  Ø4-.͸ɺ΄ͱΜͲͷϫʔΫϩʔυͰे෼ͳੑೳΛ࣋ͭ ØΞϓϦ͸"*Λத֩ʹ࠶ઃܭ • ϫʔΫϑϩʔมԽʹΑΔ6*69ͷ࠶ઃܭ Øਪ࿦ओಋɿ௿ϨΠςϯγɾίετ࠷খԽ͕,1* ØσʔλओݖˍΨόφϯε͕ߏ଄ཁ݅ʹͳΔ ڊେϞσϧମ͚͕ͩਖ਼Ͱ͸ແ͘ɺ ͨ͘͞Μͷখ͞ͳΤʔδΣϯτ͕૬Ԡ͘͠ͳΓͦ͏ɻ IUUQTBSYJWPSHBCT ˙
    /7*%*"
    3FTFBSDIͷ࿦จ
27. #BSF
    --.ΛαʔϏεͱͯ͠ͷ"*ʹ͢ΔͨΊʹ͸ʁ  --.
    &OHJOF --. -BOH$IBJO .$1 3"( 8FC6* %BUB
    1JQF
    -JOF %BUB
    $POWFSU 7FDUPS
    %# 4UBUFMFTT
    "1* .VUJTFTTJPO $POUFYU 4JNQMJGZ ˙֎ૠٕज़ ˙಺ૠٕज़ 'JOF
    5VOF -P3" 5SBOTGFS
    -FBSOJOH .P& 5PLFOJ[FS 2VBOUJ[F &NCFEEJOH
    "MJHIONFOU %JTUJMMBUJPO ύϥϝλ΍಺෦ߏ଄Λม Խͤ͞ΔΞϓϩʔν ֎෦هԱɺճ෦ਪ࿦Λར ༻͢ΔΞϓϩʔν #BSF
    --.
    3VOUJNF ʮΤϯδϯʯʹλΠϠ͚ͩ ࢼݧं྆ ͔͠Δʹ--.㲔Τϯδϯ
28. ஌ࣝ ,OPXMFEHF ͱ֎ૠ  ஌ࣝͱ֎ૠɺ஌ܙͱ಺ૠɺͦͯ͠஌ೳ ஌ܙ 8JTEPN ͱ಺ૠ Ø3"(͸ɺ஌ࣝ ,OPXMFEHF㲔ඦՊࣄయ Λ ಡΉΑ͏ͳ΋ͷɻ Ø3"(ͰɺϞσϧ͕ݩʑ࣋ͭ৘ใΛิ׬Ͱ ͖Δ͕ɺʮϞσϧ͕ݩʑ࣋ͭ஌ܙʹ෋Μ ͩճ౴ʯ΄Ͳɺ3"(Ͱ͸ิ׬Ͱ͖ͳ͍ɻ ØϓϩϯϓτͰڭ͑ͯ΋ʮख๏ʯ͸ֶशͰ ͖ͳ͍ • ʮ΋ͱ΋ͱֶश͍ͯͨ͠΋ͷʯΛɺϓϩϯ ϓτͰ༠ಋͯ͠Ҿ͖ग़͢͜ͱ͸Ͱ͖Δ Ø஌ܙ͸ɺେྔͷ஌ࣝΛ஝͑ͨ݁Ռ 'JOF
    5VOF ɺߦಈ༷ࣜΛֶश͢Δ΋ͷ Ø--.͸ɺಠࣗͷ'5ͷ݁Ռɺͦͷ૊৫ಠࣗ ͷߦಈ༷ࣜΛऔΓࠐΜͩճ౴͕Ͱ͖Δɻ Øख๏Λɺ'5ͰֶशͰ͖ɺ֦ுͨ͠஌ೳΛ ͭ͘Δ͜ͱ͕Ͱ͖Δɻ ͜ΕΒΛ͋Θͤͯ஌ೳ *OUFMMJHFODF ͱͳΔ
29. *OGJOJ$MPVE
    "*
    Š
    1SJWBUF
    --.BB4 &OHJOF  ϛογϯάϐʔεΛຒΊΔʂ IUUQTJOGJOJDMPVEDPNQSPEVDU@JDBJIUNM ಺ૠ΋֎ૠ΋ؚΊͯɺσʔλύΠϓϥΠϯʹ૊Έ ࠐ·Εͨ ͨͿΜ ௝͍͠ιϦϡʔγϣϯͰ͢ɻ *OGJOJ$MPVE͕--.BB4ΤϯδϯΛ࡞Γɺ ΤϯδϯΛ഑෍͢Ε͹ɺ ೔ຊ࢈ͷ"*αʔϏεΛ࡞Γ΍͘͢ͳΓɺ "*ओݖΛकΕΔ͡Όͳ͍͔ʁ 8IZ
30. *OGJOJ$MPVE
    "*ͷ0&.։࢝ 0&. ϗϫΠτϥϕϧఏڙ։࢝͠·ͨ͠ɻ Ø%$޲͚ • (16ج൫͑͋͞Ε͹ɺ͙͢ʹࣗࣾϒϥϯυ Ͱ"*ΠϯϑϥαʔϏε͕։࢝Ͱ͖Δɻ Ø։ൃձࣾΉ͚ • ࣗࣾϒϥϯυͰɺΦϯϓϨϛεɺ"*ج൫ͷൢ ച͕Ͱ͖Δ • ϓϥάΠϯͷ࡞੒ɺ.$1ʹΑΔ࿈ܞՄೳ • 0QFO"*ޓ׵ͷ"1*  IUUQTQSUJNFTKQNBJOIUNMSEQIUNM *OGJOJ$MPVEɺߴੑೳΦϯϓϨϛε"*ʮ*OGJOJ$MPVEš
    "*ʯͷ0&.ఏڙ։࢝ɻσʔλη ϯλʔࣄۀऀ͓Αͼ4*FS޲͚ʹ IUUQTQSUJNFTKQNBJOIUNMSEQIUNM *OGJOJ$MPVEɺ͘͞ΒΠϯλʔωοτͱͷڠۀʹΑΓɺ"*ج൫ఏڙʹ޲͚ͨجຊ߹ҙ Λక݁ɻاۀ޲͚ʹ֎෦ʹ৘ใ͕࿙Ӯ͠ͳ͍ดҬ໢ʹରԠɻ એ఻
31. ஌ࣝ ,OPXMFEHF ஌ೳ *OUFMMJHFODF Λ࡞Δʹ͸ʁ ஌ܙ 8JTEPN Ø৘ใͦͷ΋ͷ Ø৘ใʹΑͬͯʮಘΒΕΔ΋ͷʯ ØԿ౓΋ಉ͜͡ͱΛߟ͑Δ͜ͱʹΑͬͯɺ ʮൃలར༻ʯͰ͖Δ͜ͱ Øʮߦಈج४ʯͱͳΔ΋ͷ ٯ্͕Γ͢Δ࣌ʹମ͕൓ͬͯ͸͍͚ͳ͍ ଍͕ࣗવͱલʹ͍͖ɺମ͕ಈ͘ ஌ࣝͷஅยͰҙຯ͕Θ͔Δ΋ͷ ୔ࢁͷ஌͕ࣝ৫Γ੒ͯ͠ҙຯΛ࣋ͭ΋ͷ Context Parameter
32. --.ͷ1BSBNFUFSͱ$POUFYU
    5PLFO Ø$POUFYU
    5PLFO
    #VGGFS • ୹ظهԱͷΑ͏ͳ΋ͷ • LʙL 5PLFO͋Δͱ௕͍ձ࿩͕Մೳɻ࠷ۙ͸.΋ɻ • ձ࿩͸,7Ωϟογϡͱ͍ͬͯɺ73".ʹอଘ͞ΕΔ • ,7ΩϟογϡʹࡌͤΒΕͳ͍΋ͷ͸੾ΓࣺͯΔ • ਓؒͷ୹ظهԱͷΑ͏ͳ΋ͷɻ • ࣮͸ຖճϑϥογϡ͞Ε͍ͯΔɻ • $POUFYU
    5PLFO
    #VGGFS͔Β1BSBNFUFSʹߦ͘σʔλύ ΠϓϥΠϯ͸ਪ࿦࣌ʹ͸ɺجຊɺ͓͖ͳ͍ɻ Øύϥϝλ • --.ͷ.-1ͷ8FJHIU ॏΈ ͷ͜ͱ • Α͘ݴ͏ύϥϝλ਺˓˓#ͷ਺ࣈ • ࠷ۙ͸#લޙ͕4-.ͱݴΘΕ͍ͯΔ • Ϟσϧͱͯ͠ɺ༷ʑͳϥΠηϯεͰެ։͞Ε͍ͯΔɻ • ਓؒͷ௕ظهԱΈ͍ͨͳΠϝʔδ • Ұൠʹύϥϝλ਺͕େ͖͍΄Ͳݡ͍ɻ • 4DBMJOH
    -BXɺ$IJDIJMMB -BX $POUFYU
    5PLFO
    #VGGFS ˓˓,ʙ.
    5PLFOT ਓͰݴ͏ͱ֓Ͷʮ୹ظهԱʯ 1SPNQU ͲͪΒ΋ݴޠϞσϧΛ࡞Δ࣌ʹܾΊ·͢ʂ *OQVU )JEEFO )JEEFO 0VUQVU #BTF
    --. ΢ΣΠτύϥϝλ਺ɿYY# JMJPO ਓͰ͍͏ͱ֓Ͷʮ௕ظهԱʯ
33. $POUFYU
    5PLFO
    #VGGFSͷ੍໿ ࢀߟɿ IUUQTBSYJWPSHBCT Ø ίϯςΩεττʔΫϯͬͯͳʹʁʁ • token ≈ word • ݫີʹ͸ɺTVCXPSE
    DPEJOH͍ͯ͠ΔͷͰɺ୯ޠ਺ΑΓ΋ଟ͍ɻ • ࠓɺ࿩͍ͯ͠Δձ࿩Λ֮͑ͯΔهԱ ਓؒͰݴ͏୹ظهԱʹࣅͯΔ Ø 5SBOTGPSNFSͷ2,7ͷೖྗ͸ݻఆ௕ 5PLFO਺ • $IBU(15P LτʔΫϯ͔Β૿Ճɻਪఆ • $IBU(15 .τʔΫϯ ɺܥ΋ଟ෼.͙Β͍ɻ • $MBVEFܥ LτʔΫϯਪఆ ˠܥ ࠷େ.τʔΫϯ • (15
    044 ࠷େLτʔΫϯ • -MBNBܥ ࠷େLτʔΫϯ • 2XFO ࠷େLτʔΫϯ Ø ୹ظهԱʹࣅͯΔ㲔େ͖͍ํ͕ྑ͍ʁ • ձ࿩͸ଓ͚΍͘͢ͳΓ·͢ ͍֮͑ͯͯ͘Ε·͢ • 0 O ͳͷͰτʔΫϯ͕ഒʹ૿͑Δͱ73".ഒ❗ • -.࡞੒࣌ʹʮܾఆͯ͠ʯ࡞੒͞Ε͍ͯ·͢ɻ ॏཁ఺ ׬શݻఆ௕ 3"(৘ใ΋ɺγεςϜϓϩϯϓτ΋͜͜ʹೖΔ ਓؒͷ୹ظهԱʹࣅͯΔ
34. $POUFYU
    5PLFO
    #VGGFS͕ᷓΕΔͱ͖ Ø--.Ͱ͸ͳ͘Τϯδϯ --.BB4 ଆ࣮૷ • $MBVEF 
    $MBVEF
    %FTLUPQ • ఘΊͯ৽͍͠εϨουΛ࡞ΔΑ͏ʹࢦࣔ • $MBVEF
    DPEF • $-"6%&NEʹཁ໿Λॻ͘ɻ • $IBU(15 • Կͱͳ͘ଓ͚ΒΕΔɻԼهͷΑ͏ͳํ๏͔ʁ ü TMJEJOH
    XJOEPX ü MJHIUXFJHIU
    TVNNBSZ ü $POEJUJPOBM
    NFNPSZ ü 5PLFO
    JNQPSUBODF
    
    *NQPSUBODF
    TDPSF • *OGJOJ$MPVE
    "*
    4IJSBJUP͸ԼهΛ࣮૷ • -JNCPMJD
    5IFPSZ 7FS ü *NQPSUBODFBXBSF
    &QIFNFSBM
    3"(
    XJUI
    -JHIUXFJHIU
    4VNNBSZ Ø,7Ωϟογϡͷ࣮૷ • ձ࿩จશͯΛ΋ͭ • 6OIJUͷ࣌͸ɺ࠶ղऍͳͷͰ͕͔͔࣌ؒΔ • Ϛϧνηογϣϯͷ࣌͸ɺ,7Λෳ਺ηο γϣϯ෼࣋ͪɺஔ͖׵͑Δඞཁ͋Γ VRAM GiB ≈ 2×𝑛!"#$% ×𝑛&'( ×𝑛$)*$+ ×bytes 1024, ه߸ ҙຯ औಘઌ 𝑛!"#$% Transformer block ਺ (ྫ: 32 / 40 / 80) Ϟσϧ࢓༷ 𝑛&'( ࠷େίϯςΩετ௕ (- -n-ctx) ࣮ߦ࣌ࢦఆ 𝑛$)*$+ hidden_size (ྫ: 8192 / 11008) Ϟσϧ࢓༷ bytes 1 byte (Q4 ྔࢠԽ) or 2 bytes (f16/bf16) ਫ਼౓Ͱܾఆ
35. 3"(3FUSJFWFE
    "VHNFOUFE
    (FOFSBUJPOͱ͸ʁ Ø 3"(ͱ͸ɺ৚݅ʹ߹ΘͤͯίϯςΩετΛ஫ೖ • ࣄલॲཧ • ݩσʔλ )5.-1%'ɾɾɾ Λߏ଄அยԽ • ߏ଄ԽσʔλΛ7FDUPSԽ • ϦΫΤετຖʹ • 7FDUPSݕࡧ • ݩσʔλͷߏ଄அยΛ$POUFYU΁஫ೖ Ø ϝϦοτ • ࢀߟॻΛݟͳ͕Β౴͑ΔϚχϡΞϧରԠͷΑ͏ͳ΋ͷ • ஌ࣝͷशಘ͸͍ͯ͠Δֶ͕श͸͍ͯ͠ͳ͍ Ø σϝϦοτ • $POUFYU
    5PLFO #VGGFSΛ࿘අ͢Δ • େ͖͗͢ΔϑΝΠϧͷ3"(ࢀর͸Ͱ͖ͳ͍ • શମΛݟͯ࿦͡ΒΕΔ಺༰ͱ͸૬ੑ͕ѱ͍ɻ 1SPNQU 3"( ϓϩάϥϜ $POUFYU஫ೖ 7FDUPS %# ͍ͣΕ΋ -.BB4Ͱ ࣮૷͢Δ෦෼ $POUFYU
    5PLFO
    #VGGFS ˓˓,ʙ.
    5PLFOT ਓͰݴ͏ͱ֓Ͷʮ୹ظهԱʯ *OQVU )JEEFO )JEEFO 0VUQVU #BTF
    --. ΢ΣΠτύϥϝλ਺ɿYY# JMJPO ਓͰ͍͏ͱ֓Ͷʮ௕ظهԱʯ
36. 3"(ͷݶքʹ໬౓ॲཧͷݶք ͜Μͳ͜ͱ͸͋Γ·ͤΜ͔ʁ Ø৽͍֓͠೦ΛϓϩϯϓτͰ౤ೖͯ͠΋ɺ Ϣʔβʹ͖ͪΜͱճ౴Ͱ͖ͳ͍ɻ ͳ͔ͥʁ Ø3"(͸֎ૠٕज़Ͱ͋Γɺਪ࿦࣌ͷ໬౓෼ ෍ʹڧ͍όΠΞεΛ༩͑Δ࢓૊Έɻ --.ͷ/81͸ɺ Ø֬཰త୳ࡧΞϧΰϦζϜ #FBN
    4FBSDI
    
    5PQL
    
    5PQQͳͲ Λ࢖ͬͯਪ࿦ ֎ૠ ϓϩϯϓτνϡʔχϯά Ͱɺߦ͏ʹ ͸ݶք͕͋Δ  E A B i (x1,x2,x3,...)
37. ֎ૠٕज़ͳͲͳͲ Ø3"(ʢ3FUSJFWBM"VHNFOUFE
    (FOFSBUJPOʣ • ֎෦%#΍ݕࡧΤϯδϯ͔Βɺ࣭໰ʹؔ࿈͢Δจ ॻΛʮऔΓ૊Έʯϓϩϯϓτʹ૊ΈࠐΉ • --.ͷύϥϝλΛ૿΍ͣ͞ʹɺ֎෦஌ࣝΛଈ࣌ ʹਖ਼֬ʹࢀরՄೳ Ø.$1ʢ.PEFM
    $POUFYU
    1SPUPDPMʣ • ֎෦Ϟδϡʔϧʢ"HFOU
    5PPM
    1MVHJOͳͲʣͱ ࿈ܞɺ৘ใऔಘͨ͠Γɺπʔϧىಈɻ Ø5PPM
    6TFʢ֎෦"1*ʗ'VODUJPO
    $BMMJOHʣ • Ϟσϧ͕ʮ"1*࢓༷ʯΛཧղɺ֎෦ؔ਺ɾγες ϜΛݺͼग़͠ॲཧ͢Δ • --.͸ࣗવݴޠͰ໋ྩΛߏங͠ɺ֎քΛૢ࡞͢ ΔྗΛಘΔɻ UFYU UFYU %PNBJO4QFDJpD %PDVNFOUT %BUB
    4BNQMJOH 2VFSZ SE
    1BSUZ "QQT 7FDUPS &ODPEJOH CZ
    -BOH$IBJO 7FDUPS
    %# 2VFSZ *OEFY ,OPXMFEHF 3FUSJFWFE
    $POUFYU 0QFO"*
    $PNQBUJCMF
    
    "1* ┛ ⓴ 4JNJMBS .BSL
    %PXO +40/ 3FTQPOTF --. 3FTQPOTF 4JNJMBSJUZ 4FBSDI 4IJSBJUP
    8FC
    6* 1MVHJOT .$1 2VFSZ 2VFSZ
    .JYJOH 2VFSZ` ʴ ʴ ɾɾɾ యܕతͳσʔλύΠϓϥΠϯ
38. 1BSBNFUFSͬͯͳΜͩʁ ࢀߟɿ IUUQTBSYJWPSHBCT 0VUQVU *OQVU )JEEFO )JEEFO ௕ظهԱͷΑ͏ͳ΋ͷ Ø5SBOTGPSNFS಺ͷ𝑊 ! 𝑊" 𝑊 # ͔Βɺ /YͰॻ͔Ε͍ͯΔ.-1ͷ෦෼ Ø8ͱ͸8FJHIUɻුಈখ਺఺ͷ਺ࣈ ØॎߦྻͰ#͸࣍ݩϕΫλɺ #Ϋϥε͸࣍ݩϕΫλͰ͋Δ ͜ͱ͕ଟ͍ɻ Øੜ෺ͷʮ೴ʯͷ༰ੵΈ͍ͨͳ΋ͷ ͰɺͲ͏΍ֶͬͯश͢Δͷʁ
39. #1ʢޡࠩٯ఻೻ʣɿ༧ଌ͸લ΁ɺ఻ൖ͸ޙΖ΁ ཚ਺͔Βޯ഑Λ͚͍ͭͯ͘ʂ Ø'PSXBSEʢࠨˠӈʣ • 𝑧! = 𝑊!𝑎!-. + 𝑏!, 𝑎! = / 0! 1 2 #,# Ø#BDLXBSEʢӈˠࠨʣ • 𝛿! = 𝑊!4. 5 • 𝛿!4. ⊙ 𝜎‘ 𝑧! • ޯ഑ • "# "$! = 𝛿% 𝑎%&' ( • "# ")! = 𝛿% • ߋ৽ • 𝑊% ← 𝑊% − 𝜂 "# "$!
    ͳͲ Ø ཁ఺ • ֤ϊʔυͰʮہॴޯ഑ º
    ্ྲྀޡࠩʢ࿈࠯཯ɿDIBJO
    SVMFʣʯΛֻ͚ ߹Θͤͯ࣍΁౉͠ɺͲͷॏΈ͕ͲΕ͚ͩଛࣦʹد༩͔ͨ͠Λ഑෼ɻ *OQVU )JEEFO )JEEFO ཁ͢Δʹɺશύϥϝλߋ৽͸େྔͷ73".͕ඞཁͰ͢ʂ ॳظ஋͸ཚ਺Ͱ͢
40. 5SBOTGFS
    -FBSOJOH Ø1SFUSBJO
    ʮཚ਺ˠ৽Ϟσϧʯ Ø'JOF5VOF ʮઌߦϞσϧˠ৽Ϟσϧʯ Ø'JOF5VOFͷ'VMM
    5VOFͱ݁࿦ɺཁ໿͢Δ ͱಉҰ ͜ͷํ๏ͷϝϦοτ͸ɺཚ਺͔Β࡞ΔϞσ ϧʹൺ΂ͯɺܭࢉػίετ͕େ෯ʹগͳ͍ ͜ͱͰ͢ʂ *OQVU )JEEFO )JEEFO 4XBMMPXKQͳͲ͸ɺ͜ͷख๏ɻ *OGJOJ$MPVE
    "*ͷϞσϧ΋ɺҰ෦ɺ͜ͷख๏ ΛऔΓೖΕ͍ͯ·͢ɻ ˞ϦϏδϣϯʹΑΓҟͳΓ·͢
41. *OGJOJ$MPVE
    "*ͷ-BOHVBHF
    .PEFM Ұ෦όʔδϣϯ  *OQVU )JEEFO )JEEFO 0VUQVU #BTF
    --. ϥΠηϯεతʹ࠶഑෍ɺ࠶ֶशՄೳ ͳΦʔϓϯϥϯήʔδϞσϧ *OQVU )JEEFO )JEEFO 0VUQVU 4IJSBJUP
    --. *OGJOJ$MPVE
    "*޲͚ʹ 5SBOTGFS
    -FBSOJOH ʮ೔ຊͷձࣾ૊৫ʯͷ͜ͱΛڭ͑ͨ ϥϯήʔδϞσϧ *OQVU )JEEFO )JEEFO 0VUQVU 1SJWBUF
    --. *OGJOJ$MPVE
    "*ͷར༻தʹ ҭ͍ͬͯ͘--. 5SBOTGFS
    -FBSOJOH -P3"
    'JOF5VOF Ø#BTF
    --. RXFOMMBNBEFFQTFFLͳͲ • ͜Ε͕ݩσʔλɻ • ਓؒͰݴ͏ͱֶߍ͔Βଔۀ͖ͯͨ͠Πϝʔδ Ø4IJSBJUP
    --. ग़ՙঢ়ଶ • #BTF
    --.Λݩʹɺࣾձਓʹ͢ΔΠϝʔδ Ø1SJWBUF
    --.
    4IJSBJUP಺Ͱࣗಈੜ੒ • ࣾձਓΛͦͷاۀͷैۀһʹڭҭ͢ΔΠϝʔδ ˞͜ͷख๏͸HQUPTTϞσϧͰ͸औΓೖΕΒΕ͍ͯ·ͤΜɻ
42. *OQVU )JEEFO )JEEFO 0VUQVU #BTF
    --. ΢ΣΠτύϥϝλ਺ɿYY# JMJPO ਓͰ͍͏ͱ֓Ͷʮ௕ظهԱʯ 'VMM
    5VOF 5SBOTGFS
    -FBSOJOH 'JOF
    5VOFͷֶशख๏ͷҧ͍ -P3" Ҏલͷಛ௃Λ౿ऻͯ͠ೖΕସΘΔɻ ύϥϝλ਺ʹE º L ʹ #BTF
    --.ͱಉ͡ 5VOJOH࣌͸ɺਪ࿦ͷ਺ഒͷ73".͕ඞཁ ௥Ճύϥϝλ਺ʹE
    º
    S
    
    S
    º
    L ബ͘ɺ଍͠ࢉ͞ΕΔɻֶशσʔληοτ͕ଟ͍΄ Ͳύϥϝλ਺Λ૿΍͢΂͖ͩͱߟ͑ΒΕΔɻ # " Ø-P3" 𝐵 ∈ 𝑅$×& , 𝐴 ∈ 𝑅&×" ) *OQVU )JEEFO )JEEFO 0VUQVU #BTF
    --. ΢ΣΠτύϥϝλ਺ɿYY# JMJPO ਓͰ͍͏ͱ֓Ͷʮ௕ظهԱʯ Ø'VMM
    5VOFE
    --. Øύϥϝλ਺ɿYY#
    CG ਫ਼౓ ØҎલͷಛ௃Λ౿ऻͯ͠ೖΕସ͑Δʂ
43. -P3"
    -PX
    3BOL
    "EBQUJPO -PX
    3BOL
    "EBQUJPO Ø Weight (Parameter) • 𝑊 = 𝑊" + Δ𝑊
    𝑊" ∈ 𝑅#×%
    • Δ𝑊 = 𝐵 ⋅ 𝐴
    𝐵 ∈ 𝑅+×% , 𝐴 ∈ 𝑅%×- 𝑟 ≪ min 𝑑, 𝑘 Ø ਪ࿦࣌͸͜͏ • 𝑦 = 𝑊" 𝑥 + 𝛼 ⋅ 𝐵 𝐴𝑥 • ॎ௕ߦྻͱԣ௕ߦྻͷੵ͸8ͱಉ͡ʹͳΔͱ͍͏͜ͱɻ Ø -P3"࠾༻ͷϝϦοτ • #BTF--.ͷݡ͞͸୲อ͞Ε΍͘͢ɺ௥Ճ஌ࣝ͸ʮޯ഑ʯ • 3"(ͱ͸ҟͳΓɺ5PLFO #VGGFSΛ࢖Θͳ͍ɻ • ஌͕ࣝӬଓԽ͞Εɺ--.͕ࢥߟ͢Δ࣌ͷલఏͱͳΔɻ • ஌ܙΛ΋ͬͯɺ஌ೳͱͳΓ΍͍͢ ͱɺࢲ͸ɺߟ͍͑ͯΔ Ø -P3"ͷಛ௕ • SBOL਺ΛܾΊΔઈରతΞϧΰϦζϜ͕෼͔Βͳ͍ɻ • ͙Β͍͔Β࢝Ίɺޯ഑͕͖ͭ-PTT͕҆ఆ͢ΔͷΛݟ͚ͭΔɻ • "EP-P3""3%-P3"ͳͲͷ೿ੜ͕͋Δɻ • ஌ࣝͷ҆ఆԽׂ͕ͱ೉͍͠ • #BTF--.ʹ֮͑ͤͨ͞σʔληοτྔʹର͠ɺ-P3"Ͱ֮͑ͤ͞Δ%BUBTFU͕ѹ ౗తʹখ͍͞ɻ • ޯ഑Λେ͖͘͢Δʹ͸ɺਓҝతͳЋ஋ɺ&QPDIɺTDBMFௐ੔͕ඞཁɻ • $IJDIJMMB
    -BXͷΑ͏ͳɺϕʔε--.ɺ%BUBTFU͔Βͷ૬ؔؔ਺͸͋Γͦ ͏ ͨͩ͠ɺࢲ͸ɺ·ͩݟ͚ͭΒΕ͍ͯͳ͍ $POUFYU
    5PLFO
    #VGGFS 1SPNQU Ұൠʹ#ͷॳظ஋͸ཚ਺Ͱ͢ -P3" TDBMF
    
     -P3" TDBMF
    
     -P3" TDBMF
    
     -P3" ௥Ճ෦෼ *OQVU )JEEFO )JEEFO 0VUQVU #BTF
    --. ΢ΣΠτύϥϝλ਺ɿYY# JMJPO ਓͰ͍͏ͱ֓Ͷʮ௕ظهԱʯ ˞௥ՃͱݴͬͯΔ͕ɺ্ʹඃΔΠϝʔδ
44. πʔϧͱ--.ͷ࿈ܞ  IUUQTBSYJWPSHBCT NVIDIA Research: Small Language Models are the Future of Agentic AI -.͔Βπʔ ϧνΣΠϯΛ ݺͿ πʔϧ͔Β -.ΛݺͿ
45. 1 Summarization "*͕จॻɺձ࿩ɺه࿥Λड͚औΓɺຊ࣭ తͳ৘ใΛͷΈΛநग़͢ΔλεΫ 3 Generation "*͕ਓؒ΍γεςϜͱࣗવݴޠͰ ΍ΓऔΓ͠ɺճ౴ɾจॻɾίʔυ ɾࢦࣔΛੜ੒͢ΔλεΫɻ $IBUΠϯλϑΣΠε͕ଟ͍ɻ πʔϧ͔Β-.ΛݺͿͭͷύλʔϯ 2 Decision Support "*͕աڈσʔλ΍ɺϧʔϧɾφϨοδΛجʹɺ ਪ࿦ɺൺֱɺఏҊɺγϛϡϨʔγϣϯΛߦ͏λ εΫɻਓͷ൑அΛิڧɾ୅ସ͢Δ ˞͜ΕΒͷར༻ํ๏͸ʮϓϩϯϓτʯΛͳ͛ɺฦ౴Λ໯͏ܗࣜ ΞϓϦ͕࢖͏"*༻్ʹ͸࣍ͷΑ͏ͳχʔζ͕͋Δ
46. -.͔ΒπʔϧΛݺͿύλʔϯ 5PPM
    #SPLFSΛͲ͏࡞Δͷ͔ʁ Ø֎ૠͰͳΜͱ͔͢Δ • γεςϜϓϩϯϓτΛ༻͍ɺεΫϦϓτΛ࢖ͬͯஔ͖׵͑Δจ໘Λ༻ҙ͢Δ • ͱ͚ͬͯͭͨΑ͏ͳճ౴ʮਓؒଆ͕γεςϜϓϩϯϓτͰ͜͏͍͏෩ʹ౴͑ͯͶͱ͍͏໿ଋࣄʯ ʹͳΓ͕ͪɻˡߟ͑ͯΔͷ--.͡Όͳͯ͘ɺਓؒ͡ΌͶʁͱ͍͏ײ͡ɻ • 4JNQMF
    #BSF
    --.
    3FRVFTUʹରͯ͠ฦ஋Λϥοϐϯά͢Δͱྑ͍ɻ Ø಺ૠͰͳΜͱ͔͢Δ • εΫϦϓτΛ࢖ͬͯஔ͖׵͑Δจ໘Λʮֶशʯͤͯ͞͠·͏ɻ • ಥવɺΞΠσΟΞ͕༙͍ͨΑ͏ʹϧʔϧ͕࢖ΘΕΔɻ • ྫɿ͜ͷลͰඒຯ͍͠Ϩετϥϯڭ͑ͯʂ ü ͜ͷจষʹ͸ɺϢʔβͷ৔ॴɺࠓͷ࣌ؒͷ֓೦͕ඞཁ͕ͩɺ಺ૠτϨʔχϯάʹΑΓʮ--.͕উखʹ֎෦πʔϧʯΛ ࢖ͬͯղܾ͠Α͏ͱ͢Δɻ • ͨͩ͠ɺԿ࣌ɺπʔϧΛ࢖͓͏ͱ͢Δ͔෼͔Βͳ͍ͷͰɺฦ஋ΛৗʹνΣοΫ͢Δඞཁ͕͋Δɻ ˞--.͸ʮҰൠαʔϏεʹൺ΂ͯ஗͍ʯͷͰɺ଴ͪ࣌ؒΛ໨ཱͨͳ͘͢ΔͨΊɺετϦʔ ϜԠ౴Ͱฦ͍͕ͨ͠ɺʮϑΝδʔʯͳͷͰؒҧͬͨͱ͖ͷमਖ਼͕Ͱ͖ͳ͍ɻ 
47. ֎ૠͰߦ͏γϯϓϧͳྫ Øࠓͷ࣌ࠁΛڭ͑ͯʂ ØTZTUFNQSFBNCMFʹɺ • DVSSFOU@UJNF
    ʙΛৗʹೖΕ͓ͯ͘ɻ Ø͜ͷํࣜͩͱ౴͑Δ͜ͱ͕Ͱ͖Δ͕ɺ Ϣʔβ͕஌Γ͍ͨ৘ใ͕૿͑ͯ͠·͏ɻ • Ϣʔβ͕஌Γͨͦ͏ͳ΋ͷΛશͯೖΕΔඞ ཁ͕͋Δɻ Øྫɿ • ۙ͘ͷϨετϥϯΛڭ͑ͯʂ • ࠷௿ݶதʹTZTUFNQSFBNCMFʹɺ(14৘ใΛ ೖΕ͓ͯ͘ඞཁ͋Γɻ Øͦ͜Ͱɾɾɾ ØDIBUηϯςϯεΛ--.
    XSJUFSʹૹΔલʹ πʔϧຖɺݺͼͩ͠ϕΫλΛ༻ҙ͓ͯ͠ ͖ɺϝλ৘ใ FYUFSOBM
    NFUBEBUB Λ௥Ճ ͢Δɻ • খ೴͕࠷ॳʹϢʔβΫΤϦΛνΣοΫɻ • ඞཁͦ͏ͳπʔϧΛ૸ΒͤΔ • QSFBNCMFʹϝλ৘ใΛ௥Ճ͢Δɻ Ø͜ΕͰҰԠɺ֎ૠܕͰ΋ɺ͔ͳΓͷέʔ εͰͦΕͬΆ͍ಈ͔͠ํ͸Ͱ͖Δʂ 
48. ಺ૠͰݺͼग़͢༻ʹֶश͓ͯ͘͠ ྫ͑͹తɺख๏ {"messages": [ {"role": "system", "content": "͋ͳͨ͸πʔϧΛར༻Ͱ͖ΔΞγελϯτͰ͢ɻ ... (্هͷϧʔϧ)"}, {"role": "user", "content": "ࠓԿ࣌ʁ"}, {"role": "assistant", "content": ”(tool call)<CALL name=\"get_current_time\">\n{}\n</CALL>"} ]} {"messages": [ {"role": "system", "content": "͋ͳͨ͸πʔϧΛར༻Ͱ͖ΔΞγελϯτͰ͢ɻ ... (্هͷϧʔϧ)"}, {"role": "user", "content": "ࠓԿ࣌ʁ"}, {"role": "assistant", "content": ”(after tool)ݱࡏ͸ ೥݄೔ 
    +45
    Ͱ͢ɻ"} ]} {"messages": [ {"role": "system", "content": "͋ͳͨ͸πʔϧΛར༻Ͱ͖ΔΞγελϯτͰ͢ɻ ..."}, {"role": "user", "content": "͜ͷลͰ๻ͷ޷͖ͦ͏ͳϨετϥϯڭ͑ͯ"}, {"role": "assistant", "content": "<CALL name=\"get_user_location\">\n{}\n</CALL>\n\n<CALL name=\"get_current_time\">\n{}\n</CALL>\n"} ]} ……  ˞͜ͷํ๏͸ɺ·ͩ*OGJOJ$MPVE
    "*Ͱ͸ະ࣮૷ͳͷͰɺϓϩμΫτϨϕϧͰ͏·͘ߦ͔͘͸ෆ໌Ͱ͢
49. 1SJWBUF
    "*ͷඞવੑ 1VCMJD
    "*͚ͩͰશ͕ͯऴΘΔͷͩΖ͏͔ʁ 
50. 1SJWBUF
    "*ͷຊ౰ͷҙٛ  1VCMJD
    "* 1 ͸ɺ ੈͷதʹ͋Δ͜ͱΛ ͔ͳΓ஌͍ͬͯΔ͕ɺ ར༻ऀ͕͜Εʹɺ ہॴ஌ࣝΛڭ͑Δ͜ͱ͸ Ͱ͖ͳ͍ 044
    --. 0 ͸ɺ͍Ζ͍Ζɻ ֓Ͷɺ1VCMJD
    "* 3 ͱͷαΠζ ҧ͍ͩͱߟ͑Ε͹ྑ͍ɻ 1SJWBUF
    "*͸ɺ ૊৫಺ͷ஌ܙΛֶश͢Δ ݱ࣮తͳιϦϡʔγϣϯ
51. 1SJWBUF
    "*͕ͳͥ།ҰʹͳΓ͏Δ͔ʁ Ø1VCMJD
    "*͸ֶशͰ͖ͳ͍ശͰ͋Γɺ஌ࣝ ΛʮआΓΔʯ͚ͩ Ø1SJWBUF
    "*͸ֶशͰ͖Δ؀ڥͰ͋Γɺ஌ࣝ Λʮ஝͑Δʯ͜ͱ͕Ͱ͖Δɻ Ø૊৫ͷ஌ܙʹܧଓతͳ಺ૠʢ'JOFUVOF
    -P3"ʣʹΑͬͯͷΈੜ·ΕΔɻ  ίί͕ॏཁʂ
52. ϚʔέςΟϯάγʔτ͕Θ͔Γʹ͗͘͢ΔͷͰʜɾ  1VCMJD
    "* 1 ͱ044
    --. 0 ͷؔ܎͸ɺ 𝑂 ⊂ 𝑃 044
    --. 0 ͱ1SJWBUF
    --. 3 ͷؔ܎͸ɺ 𝑂 ⊈ 𝑅 ͔ͭ 𝑅 ⊈ 𝑂 ૒ํʹࠩ෼͕ଘࡏ͠ɺ 𝑅 ∖ 𝑂 ≠ ∅ 𝑂 ∖ 𝑅 ≠ ∅ L = 𝑂 ∖ 𝑅
    ˠ
    ϑΝΠϯνϡʔϯʹΑΓʮࣦΘΕͨɾྼԽͨ͠ʯ044
    --.
    ͷೳྗ A = 𝑅 ∖ 𝑂
    ˠ
    ϑΝΠϯνϡʔϯʹΑΓʮ৽ͨʹ֫ಘͨ͠ʯ1SJWBUF
    "*
    ݻ༗ͷ஌ࣝɾৼΔ ෣͍ɻ ͭ·Γɺ 𝑅 = 𝑂 ∖ 𝐿 ∪ 𝐴 ͱ͍͏͜ͱͰ͢ εοΩϦʂ R P O O
53. 1PTJUJWF
    "DUJPO 1SJWBUF͔ͩΒɺ ൿಗ৘ใ΋౤ೖ ൿಗ৘ใ͔Βɺ ஌ܙ͕ੜ·ΕΔ ΑΓڧԽ͞ΕΔ 1SJWBUF
    "*͕׬੒ 'FFE
    #BDL 1SJWBUF
    "*ͷҙٛ Ø1SJBWUF
    "*ˠ#VTJOFTT
    %PNBJO
    4QFDJBMJTU΁ Ø1VCMJD
    "*ˠ$FOUSBM
    *OUFMMJHFODF΁
54. *OGJOJ$MPVEגࣜձࣾ ձ໊ࣾ *OGJOJ$MPVEגࣜձࣾ ʢIUUQTJOGJOJDMPVEDPNʣ ӳޠදهɿ*OGJOJ$MPVE
    $P
    -UE ૑ۀ ೥݄ ॴࡏ஍ ຊࣾ ˟ ੩Ԭݝ੩ԬࢢѮ۠ޖ෰ொ
    ෩དྷؗ'
    
    
    
    JOGP!JOGJOJDMPVEDPN *OGJOJ$MPVEגࣜձࣾ͸ɺʮΫϥ΢υʯͱ͍͏ݴ༿͕ීٴ͢Δલͷ೥͔ΒɺΠϯλʔωοτܦ༝ͰιϑτΛ഑৴ͨ͠Γɺ4PMBSJTΛ࢖ͬͨ714αʔϏεͷ։ൃΛ͖ͯ͠·ͨ͠ɻ ετϨʔδɺϋΠύόΠβʹؔͯ͠͸ಛʹɺ௕೥ͷ࣮੷Λ΋ͪɺಛఆϕϯμʔʹґଘ͠ͳ͍ॊೈͳઃܭྗͰɺ*OGJOJ$MPVE
    )7Λ։ൃɻݱࡏ͸*OGJOJ$MPVE
    )7 ,7.൛Ͱ͸1SPYNPY
    7&ʹରԠɺ*OGJOJ$MPVE
    )7
    9FO൛Ͱ͸7BUFT
    7.4ʹରԠɻ͞Βʹ41"3$ͳͲଟ༷ͳٕज़Λ׆༻ͨ͠ΤϯλʔϓϥΠζ޲͚Ϋϥ΢υ؀ڥʢ*BB4ʣ΋ఏڙ͍ͯ͠·͢ɻ*BB4ج൫Ͱ ഓٕͬͨज़͸ɺ0&.ఏڙ΍ϋʔυ΢ΣΞΞϓϥΠΞϯεͱͯ͠ͷఏڙͳͲɺΫϥ΢υͷ෼ࢄΛςʔϚʹٕज़Λ੯͠Έͳ͘ఏڙ͍ͯ͠·͢ɻ೥ʹ͸"*׆༻ͷधཁରԠɻ3"(͔Β 'JOF5VOJOH·Ͱߦ͏ʮ*OGJOJ$MPVE
    "*ʯΛఏڙதɻ 
     ୲౰ Ӧۀຊ෦ Ұॹʹ࡞Γ͍ͨ "*։ൃऀɺ ืूதͰ͢ʂ
55. "QQFOEJY ʙ࣭໰͕ग़ͨΒ࢖͏γʔτʙ
56. .JYUVSF
    PG
    &YQFSUT &YQFSU #BTF
    --. ύϥϝλ਺ɿ# ਓؒͷ௕ظهԱͷΑ͏ͳ΋ͷ CG ਫ਼౓ &YQFSU &YQFSU 0653"(&064-:
    -"3(&
    /&63"-
    /&5803,4
    5)&
    41"34&-:("5&%
    .*9563&0'&91&354
    -":&3 IUUQTXXXDTUPSPOUPFEVdIJOUPOBCTQT0VUSBHFPVTMZ QEG 4XJUDI
    5SBOTGPSNFST
    4DBMJOH
    UP
    5SJMMJPO
    1BSBNFUFS
    .PEFMT
    XJUI
    4JNQMF
    BOE
    &GGJDJFOU
    4QBSTJUZ IUUQBSYJWPSHBCT Ø ಺తʹࣅͨ஌ࣝϚοϓΛ΋ͪɺ͜ΕΒΛࣗಈతʹબͿ ࢓૊Έ͕ɺ.P&Ͱ͢ɻ Ø -MBNB
    
    4DPVU.BWFSJDL͸ɺ#BTF
    --.͕#͔͠ ͳ͘ɺ࢒Γ͸શͯ&YQFSUTͰ͢ɻ • ͜ͷ&YQFSUTͷ਺Λ߹ܭ͢Δͱɺ#͙Β͍ʹͳΔͱ͍ ͏Θ͚Ͱ͢ • ࣮ࡍ͸ͭ·Ͱ"DUJWFʜʜͳͲɺݶք஋͕ܾ·͍ͬͯ·͢ Ø .-1΍&ODPEFSΛࢬ෼͔Ε͓͖ͤͯ͞ɺ෼໺ຖʹͲ ͜Λ"DUJWBUF
    ֶͤͯ͞शͤ͞Δ͔͕ܾ·Δͱɺར༻ ࣌ʹͳʹ͕"DUJWBUF͞ΕΔͷ͔͕ܾ·͍͖ͬͯ·͢ɻ
57. ΤωϧΪʔ͸࠷খʹ͓ͪΔ E A B i (x1,x2,x3,...)
58. 1BSBNFUFS 'SP[FO
    8 ࠩ෼ ϶8 --. *OQVU )JEEFO )JEEFO
59. 3// П П П
60. -45. ུ ུ ʴ ʷ ʷ ʷ ʷ ʷ ʷ
61. 5FOTPS x2 BQQMF ͸͜ͷลʁ x1 QFO ͸͜ͷลʁ QJOFBQQMF ͸͜ͷลʁ
62. 5SBOTGPSNFS9- Ø ௨ৗͷ5SBOTGPSNFS͸ɺೖྗ௕ʢίϯςΩετ௕ʣ͕ݻఆ͞ΕɺͦΕҎલͷ৘ใΛ࢖͍ଓ͚Δ͜ͱ͕Ͱ ͖·ͤΜɻͦΕΛղܾ͢Δͷ͕5SBOTGPSNFS9-Ͱ͢ɻ Ø
    B
    5SBJOJOH
    QIBTFʢֶश࣌ʣ • ֤ೖྗ͸ݻఆ௕ʢྫɿ୯ޠʣͰ෼ׂ͞ΕΔɻ • ௚લͷηάϝϯτʢփ৭෦෼ʣΛ ޯ഑Λྲྀͣ͞ʢ/P
    (SBEʣ Ωϟογϡͱͯ͠อ࣋͠ɺ৽͍͠ηάϝϯτͷ "UUFOUJPOʹར༻ɻ • ݁ՌɺલճηάϝϯτͷӅΕঢ়ଶΛ࢖ͬͯ௕ظґଘΛֶशՄೳʹɻ Ø
    C
    &WBMVBUJPO
    QIBTFʢਪ࿦࣌ʣ • աڈ͢΂ͯͷӅΕঢ়ଶΛϝϞϦͱͯ͠࠶ར༻ɻ • ηάϝϯτΛ·͍ͨͰ௕ڑ཭ͷจ຺ΛҰؾʹࢀরͰ͖Δɻ • ਤͷΑ͏ʹɺաڈˠݱࡏ΁ͱ޿͕Δ྘ͷࡾ֯ܗ͕ɺ֦ு͞Εͨ"UUFOUJPOൣғΛද͢ɻ IUUQTBSYJWPSHBCTW
63. ͳͥɺ$PEJOH͕Ͱ͖Δͷ͔ Ø$PEJOH͸ͭͷํ๏Ͱֶ΂Δ • 4'5 ڭՊॻ෇͖ϑΝΠϯνϡʔϯ • աఔ·ͰؚΊͯଘࡏ͢Δίʔυྫ • $P5ͷΑ͏ʹֶͿ • 3- ڧԽֶश • ʮաఔ͸ࣗ༝ɺ͋Δ͍͸ͳ͍ʂʯ͕ɺ݁Ռ͕໌֬ͳ΋ ͷ ঢ়ଶ st
    "DUJPO at 確率 π(at ∣st )
    rt
    ใु ֬཰ P(st+1∣st ,at )
    確率 𝑃 𝑟'() 𝑠', 𝑎', 𝑠'() 累積報酬 𝐺' = A 678 9 γ6 𝑟'464' （γは割引率）
    ࢦࣔग़͠͸ɺ͋ͳ͕ͨཉ͍͠౴͕͑ ໌֬Ͱ͋Δํ͕ྑ͍ɻ
64. %FFQ4FFL 3Ͱͷ࿩ ØίϯύΠϧ͕௨Δͱ͔ɺςετίʔυ͕௨Δ͔ͰɺڧԽֶशΛࢪͨ͠ɺͱͷ͜ͱ ࢀߟɿ IUUQTBSYJWPSHBCT
65. "*࣌୅ͷϓϩάϥϛϯά ʮਓʹʯඞཁͱͳΔ΋ͷ ØͳΔ΂͘৘ใΛ༩͑Δྗ • ʮސ٬?)?)ࣗ෼͕ຊ౰ʹཉ͔ͬͨ͠΋ͷʯˡ͜ΕΛ఻͑Δೳྗ • */16506165࢓༷Λ໌֬ʹ͢Δ • ࣮͸&3%ͳͲQMBOUVNMͰॻ͖ɺ৯ΘͤΔͱεϜʔζʹߦ͘ɻ • ϚϧνϞʔμϧ΋Մೳʹͳ͖͕ͬͯͨɺͳΔ΂͘ςΩετ NE Ͱ༩͑ΒΕΔͱʮDUY͕ᷓΕͳ͘ ͯʯྑ͍ɻ • ͍·ͷ--.͸ɺNFSNBJE΍QMBOU6.-Λֶशͯ͠ΔͨΊɺͦΕͰॻ͍ͯ΋ྑ͍ɻ ØϞδϡʔϧԽΛਐΊΔ͜ͱ • ਓؒͱҰॹʂ • ಄ͷςʔϒϧ ≅ transformerの𝑐𝑡𝑥 ʹࡌΔൣғʯʹͯ͠ґଘؔ܎ΛݮΒ͢ • Մಡੑ͸"*ʹͱͬͯ΋ɺ࣮͸ͱͯ΋ॏཁɻ • ਓؒͱҰॹͰʮ಄ͷதʹೖΒͳ͍ͤ͘ʹڊେͳίʔυʯΛॻ͘ͷͰɺͦͷ౎౓ɺࢦఠ • ݁࿦ɺ୯ମςετ͕͠΍͘͢ͳΔʂ Øίϛοτ୯ҐΛͳΔ΂͘খ͘͢͞Δ • ࢓༷ຖʹ໌֬ʹͯ͠ίϛοτΛখ͘͢͞Δ
66. ͭͷछྨͷ"*ϓϩάϥϛϯά ֓ͶʮͭͷϨϕϧʯʹ෼͚Δ͜ͱ͕Ͱ͖·͢ɻ  ϩδοΫͷΞγετ  ࠓల։ͯ͠ΔϓϩάϥϜͷҰ෦Λɺ"*Λ࢖ָͬͯΛ͢Δɻ  ΤσΟλ಺ଂͷػೳɺ$IBU(15ʹฉ͘౳ͷϨϕϧ  "*ͱͷϖΞϓϩάϥϛϯά  ϓϩδΣΫτͷϦϑΝΫλϦϯά  DMBVEF
    DPEF΍Β.$1΍ΒͰϓϩδΣΫτશମΛݟΔɻ  "*Λ։ൃऀͱͯ͠ೝΊΔ  ϓϧϦΫΤετΛ໯ͬͯϚʔδ  EFWJO΍ΒDIBU(15
    DPEFY΍ΒͰ౤͛Δ དྷिʹ͸৽͍͠΋ͷ͕ͰΔͷͰɺ͜Μͳ੡඼஌֮ࣝ͑Δඞཁɺແ͠ʂ ͨͩ͠,FZXPSET $IBU(15 PCPF ɺ$IBU(15
    DPEFYɺ$MBVEF
    .$1ɺDMBVEF
    DPEFɺDVSTPSɺDPOUJOVFɺ EFWJOɺNBOVTɺMNTUVEJPʜʜ
67. "*࣌୅ʹෆཁʹͳΔٕज़ ʮਓʹʯෆཁʹͳΔ΋ͷ ØಛఆͷϑϨʔϜϫʔΫͷ஌ࣝ • ಡΊΕ͹ྑ͍ɻॻ͚Δඞཁ͸ແ͍ˡ׽ࣈͱҰॹ • SFBDUKTͩͬͯDPCPMͩͬͯɺ"*ͱҰॹʹಡΊ͹ಡΊΔͰ͠ΐʁ ØڊେϑϨʔϜϫʔΫͷ&P% &BTZ
    PG
    %FWFMPQNFU ܥ͸ෆཁʹͳΓͦ͏ • λΠϓྔΛݮΒͨ͢Ίͷ&P%͸ͦͷͨΊʹʮ૚͕ް͘ͳͬͯ͠·͏ʯͷͰɺ"*ʹ͸Մಡੑ͕௿͍ • ਓؒͩͬͯڊେϑϨʔϜϫʔΫͷιʔείʔυ͸೺Ѳ͢Δ·ʹͰ͕͔͔࣌ؒΔͷͰͦΕͱҰॹ • ʮߏங଎౓ʯ͚͕ͩਓؒΛѹ౗͢ΔϨϕϧͳͷͰɺλΠϓྔΛݮΒ͢ԼखͳϑϨʔϜϫʔΫΛ࢖ ͏ΑΓʮࣄલ஌ࣝͳ͘ಡΊΔʯιʔείʔυͷํ͕༗ӹɻ ØಛఆͷΫϥ΢υͷ஌ࣝ • Ͳ͏ͤݩʑɺ୭͔͕ܾΊͨʮ੡඼஌ࣝʯ • .$1TFSWFS͕ݸผʹ͋Δ͔Βɺ"84ɺ"[VSFɺ0$*Λԣஅ͢Δ͜ͱͩͬͯͰ͖Δ • ਓʹ͸ʮΦϖϨʔγϣϯ͢Δೳྗʯ͕͍Βͳ͍ɻ • ͦΕΑΓ΋ɺʮͲ͏࡞ΒΕ͍ͯΔ͔ʯʮͳͥͦΕ͕Ͱ͖Δͷ͔ʯʮԿ΍ͬͯΔ͔ʯ͕Θ͔Δ͜ͱ ͕ॏཁɻ
68. ৹൑ͷ೔ EPPNT
    EBZ͔KVEHFNFOU
    EBZ͔ʁ *5ΤϯδχΞͱ*5ςΫχγϟϯͷڥ໨͸ӬΒ͘ʮᐆດʯͰͨ͠ɻ "*ͷొ৔Ͱɺ*5ΤϯδχΞ͸͜Ε͔Βʮੌ͘ʯඞཁͰ͕͢ʮςΫχγϟϯʯ͸ෆཁʹͳΓͭͭ͋Δɻ ࢹ఺ *5ΤϯδχΞ &OHJOFFS *5ςΫχγϟϯ 5FDIOJDJBO ओͳ࢖໋ 
    ཁ݅Λऩू 
    ΞʔΩςΫνϟΛઃܭ 
    ৽͍͠࢓૊ΈΛ૑Δ 
    طଘͷ࢓૊Έ ϑϨʔϜϫʔΫ Λӡ༻ɾ อकɾαϙʔτ͢Δ ࢥߟϨΠϠʔ ந৅ɾϞσϧԽɾ࠷దԽ ۩ମɾखॱԽɾ࡞ۀ ੒Ռ෺ ઃܭॻɾίʔυɾϓϩτλΠϓɾٕ ज़൑அ खॱॻͷ࣮ߦ݁Ռɾϩάɾো֐෮چใࠂ ҙࢥܾఆݖݶ ٕज़બఆɾ඼࣭ج४ɾϩʔυϚοϓ طఆϓϩηε಺Ͱͷ࣮૷ɾૢ࡞ʹݶఆ ඞཁεΩϧ γεςϜࢥߟʗΞϧΰϦζϜʗυϝ Πϯ஌ࣝʗϦεΫධՁ खॱཧղʗπʔϧૢ࡞ʗػࡐަ׵ʗҰ࣍੾ Γ෼͚ "*ʹΑΔมԽ ˖
    "*
    Λl෦ԼzʹͰ͖Δɿཁ఺ࢦࣔ ͰίʔυɾυΩϡϝϯτੜ੒ΛՃ଎ɻ ˖ ࣗ਎͸্ྲྀઃܭɾ౷߹ɾݕূ΁ ूதɻ ˗ खॱܕ࡞ۀͷେ൒Λ --.ʴࣗಈԽπʔ ϧ͕୅ସɻ ˗ ςΫχγϟϯ૚͸ ʮ"*
    Ͱஔ͖׵͑Մೳ ͔ʗ্Ґʹ৳ͼΔ͔ʯ ͕য఺ʹɻ
69. ࣗ໰νΣοΫ Øઃܭɺ൑அɺ࠷దԽͳͲ͕Ͱ͖Δͷ͔ʁ • ݕ౼ܾͯ͠ఆͰ͖Δͷ͸ΤϯδχΞͷྖҬ Øཁ݅Λந৅Խ͠ɺෳ਺ҊΛൺֱͯ͠બఆͰ͖Δ͔ʁ Øʮ"*
    ͕࡞ͬͨ੒Ռ෺ʯΛ҆શʹड͚ೖΕΔݕূεΩʔϜΛઃܭͰ͖Δ͔ʁ Øಉ͡՝୊Λೋ౓ղ͍ͨͱ͖ɺࣗಈԽɾ࠶ར༻Λ࢓૊Έʹམͱ͠ࠐΉ͔ʁ ØকདྷͷγεςϜͷൃలΛͲ͜·Ͱߟ͑ΒΕ͍ͯΔ͔ʁ ˞ࢀߟ ྫ͑͹ɺΤϨΩܥ͸ɺΤϯδχΞςΫχγϟϯʹ໌֬ʹҧ͍͕͋ΓɺͦΕͧΕࣾձత໾ׂ ͕ҧ͏ɻ *5Πϯϑϥܥ͸ɺ*5ΠϯϑϥςΫχγϟϯ͸ͣͬͱඞཁͱ͞ΕΔɻ Ϋϥ΢υΤϯδχΞ͸ඞཁͱ͞ΕΔ͕ɺΫϥ΢υςΫχγϟϯ͸౫ଡ͞Εͦ͏ɻ