Share
Embed
生成AI入門
今話題の生成AIについて簡単に技術概要をお話ししたのち、LangChain、プロンプトエンジニアリング、RAG(Retrieval Augmented Generation)、Embedding、グラウンディングなどを実装の手法などを紹介しました。
Shu Kobuchi PRO
March 02, 2024
Transcript
28 slides
-
ࣗݾհ খᔹपɹ4IV,PCVDIJɹ!TIV@LPC ιϑτΣΞΤϯδχΞ ·ͰϒϩοΫνΣʔϯۀք ʙ43&ίϯαϧͷձࣾʹೖࣾ w ੜ"*ΞϓϦέʔγϣϯ։ൃ ຊ҉߸௨՟ϢʔβձͷӡӦ୲ ݄
04$౦ژలࣔձຊੜ"*Ϣʔβձͱ ຊ҉߸௨՟ϢʔβձͰ߹ಉग़ల झຯɿαφɺమಓɺΧϥΦέ 2 -
ίϛϡχςΟհ -BOHDIBJOͱ͍͏ϓϩάϥϛϯάϥΠϒϥϦ$IBU(15--.ͷ"1*Λͬͯɺ ੜ"*ɺ--. େنݴޠϞσϧ ͷ͍ํΛֶͿٕज़ษڧձ ݄ ʙઙͰͷ04$౦ژలࣔձʹϒʔεग़ల ݄ ۚ
ʙੜ"*ΞϓϦέʔγϣϯ։ൃೖϋϯζΦϯ -BOH$IBJO1ZUIPO൛Λ༻͠ɺ؆୯ͳνϟοτϘοτΛ։ൃ IUUQTHFOBJVTFSTDPOOQBTTDPNFWFOU ϋϯζΦϯɺจಡղΛଟΊʹߦ͍͖͍ͬͯͨͱࢥ͍·͢ ͠Βͨ͘͠Βొஃऀืू͍͖ͯ͠·͢ ߨٛܗࣜͷൃද0,Ͱ͢ 3 DPOOQBTTͷ άϧʔϓొ͓ئ͍͠·͢ʂ IUUQTHFOBJVTFSTDPOOQBTTDPN -
ΞδΣϯμ ੜ"*ͱ ࣾձͷӨڹ ϢʔεέʔεͳͲ -BOH$IBJO ϓϩϯϓτΤϯδχΞϦϯά 3"( 3FUSJFWBM"VHNFOUFE(FOFSBUJPO &NCFEEJOH
άϥϯσΟϯά ϑΝΠϯνϡʔχϯά ੜ"*ͱࠓޙͷ͖߹͍ํ 4 -
ςΩετͷϕΫτϧԋࢉͷ؆୯ͳྫ 8PSE7FD ୯ޠΛϕΫτϧͰදݱ͢Δํ๏ͷҰͭ ,JOH< > .BO< > 8PNBO< > 7FDUPS@0QFSBUJPO,JOH.BO
8PNBO 3FTVMU@7FDUPS< >< >2VFFO 8 -
ը૾ੜ"* ը૾ .JDSPTPGU%FTJHOFS*NBHF$SFBUPSʢ్த͔Β༗ྉʣ w ʮ#JOH*NBHF$SFBUPSʯͱ w IUUQTXXXCJOHDPNJNBHFTDSFBUF 4UBCMF%J ff VTJPOʢ్த͔Β༗ྉʣ
w IUUQTTUBCMFEJ ff VTJPOXFCDPNKBBJJNBHFHFOFSBUPS %"--&&ʢ༗ྉʣ w IUUQTPQFOBJDPNEBMMF w $IBU(15ͷ༗ྉϓϥϯͰར༻Մೳ ੜ"*ΛσβΠφʔΘΓʹʁ 8FCαΠτ εϥΠυͷը૾ 10 ษڧձͷϩΰDPOOQBTTͷϔομ .JDSPTPGU%FTJHOFS*NBHF$SFBUPS࡞ -
ܳज़ɾΤϯλϝͷੜ"* ܳज़ՈԻָՈࣄΛୣΘΕΔͷͰͳ͍͔ʁͱةዧ ੜ"*Λ׆༻ͨ͠খઆՈ͕ևΛड͢Δྫ ୈճևʹஈཧߐ͞Μɹࣥචʹňੜ"*ʼnΛ༻ɹՏ㟒ळࢠ͞ΜŊສֶ͞Μ w IUUQTCPPLMJOLKQNFEJBBSDIJWFT w ̖̞࣌ʹখઆΛॻ͘͜ͱʹ͍ͭͯฉ͔ΕΔͱɺʮ͜ͷ࡞શମͷ͍͍ͩͨ̑ˋ͘Β͍ɺʰνϟοτ̜̥̩ʱͷΑ͏ͳੜ̖̞ ͷจষΛͦͷ··͍ͬͯΔɻ͜Ε͔Βʢ̖̞Λʣ͏·͘ར༻͠ͳ͕ΒɺࣗͷੑΛൃشͰ͖ΔΑ͏ͳ͖߹͍ํΛ͍ͯ͠ ͖͍ͨʯͱͷߟ͑Λࣔͨ͠ɻ
"*Ϟσϧͷొʂ ຊॳʂ"*NPEFMΛҏ౻Ԃͷʮ͓ ~ ͍͓ɹΧςΩϯʯ57$.ʹ࠾༻ IUUQTBJTNJMFZDPKQBJ@OFXTBJNPEFMBJUBMFOUJUPFO ଞʹɺ"*άϥϏΞϞσϧͷࣸਅू͕ͨ͘͞Μग़൛ ܳज़ɾΤϯλϝͰͷੜ"*ͷ׆༻ૣ͍ 11 ஈཧߐஶ ʮ౦ژಉౝʯ৽ைࣾ -
ࣾձͷӨڹ ੜ"*ϗϫΠτΧϥʔͷࣄΛม͍͑ͯ͘ ϗϫΠτΧϥʔͷޏ༻ݮগ ੲͷ༧ଌͱ͠ɺϒϧʔΧϥʔͷӨڹগͳͦ͏ w ϞϥϕοΫͷύϥυοΫ w ߴͳਪΑΓײ֮ӡಈεΩϧͷํ͕ଟ͘ͷܭࢉࢿݯΛཁ͢Δ w ੜ"*ʹൺɺཧಈ࡞ΛؚΉϩϘοτͷਐԽ͍
w ϩϘοτʹମ࿑ಇΛସͤ͞Δͷ·ͩ·͍ͩ͠ ڭҭػؔରԠΛഭΒΕΔ ੜ"*ʹ॓ΛΒͤΔରࡦ ࣾձͰੜ"*Λ͍͔ʹ׆༻͢Δ͔Λߟ͍͑ͯΔ w ڭҭػؔੜ"*ͷ׆༻๏Λڭ͑ΔͳͲରԠ͍͖ͯ͘͠ w ͨͩ͠ɺੜ"*Λ͍͜ͳͤͯڭ͑ΒΕΔਓະͩগͳ͍ 12 -
-BOH$IBJO େنݴޠϞσϧʢ--.ʣΛ׆༻ͨ͠ΞϓϦέʔγϣϯ։ൃΛ؆ૉԽ͢ΔϑϨʔϜϫʔΫ 1ZUIPO൛ IUUQTHJUIVCDPNMBOHDIBJOBJMBOHDIBJO +BWB4DSJQUɾ5ZQF4DSJQU൛ʢҎԼ+4൛ʣ IUUQTHJUIVCDPNMBOHDIBJOBJMBOHDIBJOKT ݩʑ1ZUIPOͰ։ൃ͕ਐΜͰ͓Γɺࠓ1ZUIPO൛ͷํ͕։ൃ͕ૣ͍ ैͯ͠+4൛͕ϦϦʔε ͦͷͨΊɺ࠷৽ػೳͷଟ͞ͳΒ1ZUIPO൛ ॻ੶8FCͰใଟ͍
ϑϩϯτΤϯυ͕+4ɾ54΄΅ҰͳͷͰόοΫΤϯυݴޠΛ౷Ұ͍ͨ͠ͳΒ+4൛ ݄ ۚ ͔࣌Β-BOH$IBJO1ZUIPO൛ͷϋϯζΦϯ࣮ࢪʂ 14 -
ύϒϦοΫΫϥυࣾͷಈ $IBU(15ͷ։ൃݩ0QFO"*ϚΠΫϩιϑτ͕ڊֹग़ࢿ (PPHMFੜ"*Ϟσϧʮ#BSEʯΛʮ(FNJOJʯʹվ໊͠ɺ0QFO"*ʹର߅ "NB[PO8FC4FSWJDFT "84 "NB[PO#FESPDLΛϦϦʔε͠ɺڊֹࢿΛ༧ఆ "NB[PO8FC4FSWJDFT "84 "NB[PO#FESPDL
w Ϟσϧɿ$MBVEF -MBNB 4UBCMF%J ff VTJPOͳͲ .JDSPTPGU"[VSF "[VSF0QFO"*4FSWJDF w Ϟσϧɿ(15 (155VSCP %"--&ͳͲ (PPHMF$MPVE1MBUGPSN ($1 7FSUFY"* w Ϟσϧɿ(FNJOJ 1B-. "OUISPQJD$MBVEF (FNNB -MBNBͳͲ 15 -
ΦʔϓϯϞσϧͷ--. طଘͷ--.ͷػີใΛೖΕΔͷ͕ා͍Ϣʔβ͕ϓϥΠϕʔτ--.ͱͯ͠ར༻Մೳ (FNNBʢδΣϚʣ IUUQTBJHPPHMFEFWHFNNB IMKB (PPHMF%FFQ.JOE͕݄ʹ༻ར༻ՄೳͳܰྔΦʔϓϯ"*Ϟσϧʮ(FNNBʯΛެ։ IUUQTBUNBSLJUJUNFEJBDPKQBJUBSUJDMFTOFXTIUNM (FNJOJʢδΣϛχʣϞσϧͷ࡞ʹ༻͞Εͨͷͱಉ͡ݚڀͱٕज़Λجʹߏங ,BHHMFɺ)VHHJOH'BDF(PPHMF$MPVE্ͳͲͰར༻Մೳ IUUQTDMPVEHPPHMFDPNCMPHKBQSPEVDUTBJNBDIJOFMFBSOJOHHFNNBNPEFMBWBJMBCMFJOWFSUFYBJBOEWJB
HLF -MBNB IUUQTMMBNBNFUBDPN .FUB "84ͷ"NB[PO#FESPDL (PPHMF$MPVEͷ7FSUFY"*Ͱར༻Մೳ 16 -
ϓϩϯϓτΤϯδχΞϦϯά ϓϩϯϓτ --.ʹର͢Δ໋ྩจ ϓϩϯϓτΛ͢Δͷ͕ϓϩϯϓτΤϯδχΞϦϯά 18 ೣʹ͍ͭͯॻ͍ͯ ೣͷछྨͱͦΕͧΕͷಛʹ ͍ͭͯɺՕॻ͖Ͱॻ͍ͯ ೣͷछྨͱͦΕͧΕͷಛʹ͍ͭ ͯɺՕॻ͖Ͱॻ͍ͯɻ
ೣͷछྨʹ͍ͭͯॻ͘߹ɺҎԼ ͷྫΛࢀߟʹ͍ͯͩ͘͠͞ɻ ɾΞϝϦΧϯγϣʔτϔΞ ɾείςΟογϡϑΥʔϧυ ɾϝΠϯΫʔϯ ͜ͷχϡʔεهࣄʹ͍ͭͯ ཁͯ͠ ͜ͷχϡʔεهࣄͷཁΛ ͭͷϙΠϯτʹ·ͱΊͯ ͜ͷχϡʔεهࣄͷཁΛͭͷϙ Πϯτʹ·ͱΊͯɻ χϡʔεهࣄͷཁΛॻ͘߹ɺ ҎԼͷྫΛࢀߟʹ͍ͯͩ͘͠͞ɻ ɾهࣄͷλΠτϧ ɾهࣄͷ಄෦ ɾهࣄͷ݁෦ ৄ͘͠ ৄ͘͠ -
3"( 3FUSJFWBM"VHNFOUFE(FOFSBUJPO --.͕Βͳ͍ใΛ֎෦͔Β༩֦͑ͯ͋͛ͯு͢Δख๏ ࣭ʹؔ࿈͢ΔใΛDPOUFYUʹؚΊΔ ใΛϕΫτϧԽ͓ͯ͑ͯ͘͠ w &NCFEEJOH ͑ͨใͷଞɺ8FCͰݕࡧͨ͠ใ༻Մೳ ࠷৽ͷใ ͷใ͕ཉ͍͠ͱ͖ɺ--.͕·Ͱͷσʔλ͔͠Βͳ͍ͱ͢ΔͱͷใΛ༩͑ͯ͋͛Δ
ެʹ͞Ε͍ͯͳ͍ࣾใ ΤϯλʔϓϥΠζͰར༻͢ΔࡍɺࣾใΛੵ͢Δ͜ͱ͕ॏཁ ࣾใͷར׆༻ଅਐ ͜Ε·Ͱݟ͑ͯ͜ͳ͔ͬͨʗՄࢹԽ͕໘ͩͬͨใͷऔಘ͕༰қʹ 19 ࣭ 7FDUPS 4UPSF จষ จষ จষ --. ࣭ จষ -
&NCFEEJOH ୯ޠϑϨʔζΛɺҙຯతʹؔ࿈͢Δ୯ޠ͕͍ۙϕΫτϧۭؒʹஔ͢Δख๏ ֤୯ޠϑϨʔζΛɺඦ ~ ઍ࣍ݩͷ࣮ϕΫτϧʹม ͜ͷϕΫτϧۭؒʹ͓͍ͯɺ͍ۙϕΫτϧΛ࣋ͭ୯ޠɺҙຯతʹؔ࿈͢Δͱఆٛ 20
7FDUPS 4UPSF ੵ จষ ౦ژ ۜ࠲ ण࢘ ࢫ͍ ୯ޠʹ۠Δ ϕΫτϧม -
ձཤྺ νϟοτΞϓϦͩͱਓˠ"*ˠ"*ˠਓͱձͷΩϟονϘʔϧΛ͍ͯ͘͠ σʔλϕʔεϝϞϦʹձཤྺΛอଘ ॳճҎ֎ձཤྺͬͯ--.ʹճͤ͞Δ ձ͕͘ͳ͍ͬͯ͘ͱίετ͕͔͔ͬͨΓɺ--.ͷೖྗ੍ݶʹҾ͔͔ͬΔ w ձཤྺΛཁͯ͠͏ 23 ձཤྺ ʓʓʓʓʓʓ
ਓ ˚˚˚˚˚˚ "* ˘˘˘˘˘˘ ਓ "* ˝˝˝˝˝˝ ࣭ --. ࣭ ձཤྺ -
ࢀߟจݙ খྛխҰஶʰੜ"*ʮ$IBU(15ʯΛࢧ͑Δٕज़ͲͷΑ͏ʹϏδωεΛ͔͑ɺਓؒͷੑΛ༳Δ͕͢ͷ͔ʁʱμΠϠϞ ϯυࣾ ࠓҪᠳଠஶʰੜ"*Ͱੈք͜͏มΘΔʱ4#৽ॻ খᖒ݈༞ஶʰੜ"*ಋೖͷڭՊॻʱ0/&16#-*4)*/( ాଜ༔ஶʰ-BOH$IBJOશೖʱΠϯϓϨε ٢ాਅޗ େౢ༐थஶʰ$IBU(15-BOH$IBJOʹΑΔνϟοτγεςϜߏங<࣮ફ>ೖʱٕज़ධࣾ Ӭాฏ ҏ౻ॣଡ
ٶాେ࢜ ཱ༟ଠ Ֆϲ㟒৳༞ וੜ߂ڷ ٢ాਅޗஶʰ"[VSF0QFO"*4FSWJDFͰ͡ΊΔ$IBU(15 --.γεςϜߏஙೖʱٕज़ධࣾ 27 -
ίϛϡχςΟհ -BOHDIBJOͱ͍͏ϓϩάϥϛϯάϥΠϒϥϦ$IBU(15--.ͷ"1*Λͬͯɺ ੜ"*ɺ--. େنݴޠϞσϧ ͷ͍ํΛֶͿٕज़ษڧձ ݄ ʙઙͰͷ04$౦ژలࣔձʹϒʔεग़ల ݄ ۚ
ʙੜ"*ΞϓϦέʔγϣϯ։ൃೖϋϯζΦϯ -BOH$IBJO1ZUIPO൛Λ༻͠ɺ؆୯ͳνϟοτϘοτΛ։ൃ IUUQTHFOBJVTFSTDPOOQBTTDPNFWFOU ϋϯζΦϯɺจಡղΛଟΊʹߦ͍͖͍ͬͯͨͱࢥ͍·͢ ͠Βͨ͘͠Βొஃऀืू͍͖ͯ͠·͢ ߨٛܗࣜͷൃද0,Ͱ͢ 28 DPOOQBTTͷ άϧʔϓొ͓ئ͍͠·͢ʂ IUUQTHFOBJVTFSTDPOOQBTTDPN