$30 off During Our Annual Pro Sale. View Details »

2023.10.03_AIプロダクトがLLMで変わったこと/変わらないこと

 2023.10.03_AIプロダクトがLLMで変わったこと/変わらないこと

イベント登壇資料です
https://sansan.connpass.com/event/295958/
【IVRy/LAPRAS/Sansan/Ubie】各社のLLMをプロダクトに組み込む勘所 #LLM_1003

Ryota Suzuki / ぬぬき

October 03, 2023
Tweet

More Decks by Ryota Suzuki / ぬぬき

Other Decks in Technology

Transcript

  1. 1
    " * ϓ ϩ μΫ τ ͕ - - . Ͱ
    ม Θ ͬ ͨ ͜ ͱ ม Θ Β ͳ ͍ ͜ ͱ
    2023.10.03

    View Slide

  2. 2
    ླ໦྄ଠ ͵͵͖
    தԝݚڀॴ
    ػցֶशɾ৴߸ॲཧ

    ػցֶशΤϯδχΞ
    Ϧαʔνϟʔ
    ϓϩμΫτϚωʔδϟʔ
    3%੹೚ऀ
    ஌ࡒϗϥΫϥγʔ
    5XJUUFS 9
    !OVOVLJ@
    (JU)VCOVOVLJN

    -"13"4IUUQTMBQSBTDPNQVCMJD)&5.-#
    ࣗݾ঺հ

    View Slide

  3. -"13"4ͷ঺հ

    View Slide

  4. 4
    ΤϯδχΞ޲͚ΩϟϦΞϚονϯάϓϥοτϑΥʔϜʮ-"13"4ʯ
    ͷ͝঺հ
    -"13"4͸ɺΫϩʔϦϯάٕज़ͱػցֶशʹΑΔղੳΛߦ͍ɺ
    ϢʔβʔͷϓϩϑΟʔϧΛࣗಈੜ੒͢ΔαʔϏεͰ͢ɻ
    ҰਓͻͱΓͷ࣮੷΍ಘҙͳ͜ͱΛՄࢹԽ͠ɺϙʔτϑΥϦΦͱͯ͠ఏڙ͠·͢ɻ
    )3Ξϫʔυड৆
    औΓ্͍͍֤͛ͯͨͩͨϝσΟΞͷ঺հ

    View Slide

  5. 5
    8FC্Ͱ
    Ξ΢τϓοτ
    ऩू
    ෼ੳ
    ֬ೝ
    ϙʔτϑΥϦΦ
    είΞ
    ਓࡐ
    σʔλϕʔε
    ݕࡧ
    Ϩίϝϯυ
    εΧ΢τૹ৴
    -"13"4ͷϓϩμΫτ
    ΤϯδχΞ ࠾༻اۀ

    View Slide

  6. -"13"4Ͱͷैདྷͷ"*ͷ׆༻
    -"13"4Ͱ͸ैདྷ͔Βɺ࣭ͷߴ͍Ϛονϯάͷ࣮ݱͷͨΊʹɺ"*ٕज़Λ׆༻͖ͯ͠·ͨ͠ɻ
    Ϋϩʔϧ
    ʲςΩετߏ଄ղੳʳ
    ৬຿ܦྺࣗಈੜ੒
    ʲจষੜ੒ʳ
    είΞϦϯά
    ʲ౷ܭॲཧʳ
    ʲςΩετߏ଄ղੳʳ
    Ϩίϝϯυ
    ʲχϡʔϥϧωοτʳ
    ৘ใऩू Ϛονϯά
    Πϯλʔωοτ΍Ϣʔβʔͷೖྗͨ͠৘ใΛ΋ͱʹɺީิऀϓϩ
    ϑΝΠϧΛ࡞੒͠·͢ɻ
    ऩू͞Εͨ৘ใΛ෼ੳ͠
    ͯɺΑΓৄ͍͠৘ใΛิ
    ׬͠·͢ɻ
    ಘΒΕͨ৘ใΛ࢖ͬͯɺ
    ٻਓ৘ใΛϨίϝϯυ͠
    ·͢ɻ

    ৘ใิ׬

    View Slide

  7. -"13"4Ͱͷ--.ͷ׆༻

    ࠷ۙ͸ɺ--.Λ׆༻ͨ͠ػೳ΋ϦϦʔε͍ͯ͠·͢ɻ
    13্ͷΠϯύΫτΑΓ΋ʮຊ౰ʹ໾ཱͭػೳʯΛ໨ࢦ͍ͯ͠·͢ɻ
    ;FOO 2JJUBͷهࣄΛͭͷ࣠Ͱ
    ධՁɻ఺ຬ఺ͷධՁʹ͘Θ͑
    ࠾఺ࠜڌ΍վળ఺ͷίϝϯτ͕
    ग़ྗ͞Ε·͢ɻ
    "*ʹΑͬͯ࠾༻ۀ຿Λඈ༂తʹ
    ؆୯ʹ͢ΔϓϩδΣΫτɻ
    ୈҰ஄͸ࢀߟ63-ΛೖΕΔ͚ͩ
    ͰٻਓΛࣗಈੜ੒͢Δػೳɻ

    View Slide

  8. --.ʹΑͬͯԿ͕มΘ͔ͬͨʁ

    View Slide

  9. 9
    --.ͰมΘͬͨ͜ͱ
    --.ͷొ৔ʹΑΓɺ"*Λ࢖ͬͨϓϩμΫτ։ൃͰมΘͬͨ͜ͱ
    ࣮ݱՄೳੑͷݕূ͕ര଎ʹͳͬͨ
    ͜Ε·Ͱѻ͑ͳ͔ͬͨλεΫΛѻ͑ΔΑ͏ʹͳͬͨ
    ৗ͕ࣝมΘͬͨ

    View Slide

  10. 10
    --.ͰมΘͬͨ͜ͱ
    ࣮ݱՄೳੑͷݕূ͕ര଎ʹͳͬͨ
    ΞΠσΟΞΛࢥ͍͍͔ͭͯΒʮ࣮ݱͰ͖ͦ͏͔ʯΛݕূ͢Δ·Ͱͷ͕࣌ؒେ෯ʹ୹ॖ͞Εͨ
    ैདྷͷ"*࠷௿Ͱ΋ϲ݄
    ·ͣ͸λεΫ෼ղɺσʔλऩूͯ͠
    ϥϕϦϯάɺલॲཧɺ'JOF5VOJOHʜ
    ͦͯ͠΍ͬͱݕূʜ
    --.िؒ
    ͱΓ͋͑ͣ&OEUP&OEͰ
    $IBU(15"1*ʹ౤͛ͯΈΕ͹0,ʂ

    View Slide

  11. 11
    --.ͰมΘͬͨ͜ͱ
    ͜Ε·Ͱѻ͑ͳ͔ͬͨλεΫΛѻ͑ΔΑ͏ʹͳͬͨ
    ੜ੒ɾ2"ܥͷλεΫ͕ѻ͑ΔΑ͏ʹͳͬͨ͜ͱʹՃ͑ͯɾɾɾ
    ݕূɾ։ൃͷര଎ԽʹΑΓɺ͜Ε·Ͱܟԕ͍ͯͨ͠λεΫ͕ݱ࣮తͳ౤ࢿର৅ͱͳͬͨɻ
    ैདྷͷ"*ࢼ͢λεΫ͕ݶఆ͞ΕΔ
    ਺ϲ݄͔͚ͯ͏·͍͔͘ͳ͔ͬͨΒ
    Ͳ͏͠Α͏ɻͳΔ΂͘खݎ࣮͘ݱͰ
    ͖ͦ͏ͳλεΫΛݫબ͠Α͏ʜ
    --.खܰʹࢼ͢͜ͱ͕Ͱ͖Δ
    ͱΓ͋͑ͣिؒ΍ͬͯΈͯɺےѱͦ͏
    ͳΒఘΊͯผͷλεΫΛ΍Ε͹͍͍΍

    View Slide

  12. 12
    --.ͰมΘͬͨ͜ͱ
    ৗ͕ࣝมΘͬͨ
    ϓϩϯϓςΟϯά͸৽͘͠ɺ·ཱͩ֬͞Ε͍ͯͳ͍ٕज़ɻ
    --.ͷৼΔ෣͍͸༧ଌ͕೉͘͠ɺ͜Ε·Ͱͷࣗવݴޠॲཧͷৗࣝ͸௨༻͠ͳ͍ɻ
    řƃສԁͷ(16Πϯελϯεͷӡ༻͕ඞཁͩͬͨΠϯϑϥ΋ɺैྔ՝ۚ"1*ʹஔ͖
    ׵Θ͍ͬͯ͘ɻ
    ೔ʑ৽͍͠Ϟσϧ͕ੜ·Εɺੈʹ͸༻ࣄྫ΍5JQTͷهࣄ͕ᷓΕΔɻ
    ॊೈͳ಄ͰৗࣝΛৗʹΞοϓσʔτ͠ͳ͚Ε͹ͳΒͳ͍ɻ

    View Slide

  13. 13
    --.ͰมΘͬͨ͜ͱ
    ৗ͕ࣝมΘͬͨྫ
    "*ϨϏϡʔٕज़هࣄͷ਺஋ධՁͱίϝϯτΛग़ྗ
    ίϝϯτग़ྗ͸೉͍͔͠Βɺ·ͣ͸
    ਺஋෦෼͚ͩࢼͯ͠Έͯɺ͏·͘
    ͍ͬͨΒίϝϯτ΋΍ͬͯΈΑ͏
    ैདྷͷ/-1ͷৗࣝ --.ͷ৔߹
    ਺஋ͱίϝϯτΛಉ࣌ग़ྗͤ͞Δϓϩ
    ϯϓτͷํ͕ɺ਺஋ͷΈΛग़ྗͤͨ͞
    ৔߹ΑΓ΋਺஋෦෼ͷਫ਼౓͕ߴ͍

    View Slide

  14. --.ʹΑͬͯԿ͕มΘΒͳ͔͔ͬͨʁ

    View Slide

  15. 15
    --.Ͱ΋มΘΒͳ͍͜ͱ
    ϓϩμΫτ࣮૷΋&OEUP&OEͰ
    $IBU(15"1*ʹ౤͛Ε͹Ϥγʂʂ

    View Slide

  16. 16
    --.Ͱ΋มΘΒͳ͍͜ͱ
    ϓϩμΫτ࣮૷΋&OEUP&OEͰ
    $IBU(15"1*ʹ౤͛Ε͹Ϥγʂʂ
    ͦΕͬͯ$IBU(15ͰΑ͘Ͷʁ

    View Slide

  17. 17
    --.Ͱ΋มΘΒͳ͍͜ͱ
    "*Λ׆༻ͯ͠αʔϏεΛఏڙ͢Δࣄۀऀͱͯ͠ɺϢʔβʔͷՁ஋ʹίϛοτ͠ͳ͚Ε͹ͳΒͳ͍
    ɾ࡞ͬͯ΋࢖ΘΕͳ͚Ε͹ແҙຯ
    ɹˠԿ͕Ͱ͖Δ͔Ͱ͸ͳ͘ɺͲΜͳՁ஋Λಧ͚Δ͔
    ɹˠϢʔβʔج఺ͷϓϩμΫτࢥߟͱԾઆݕূ
    ɾϢʔβʔʹ"*ͷ໘౗Λݟͤ͞ͳ͍
    ɹˠ"*ʹҙຯ͋Δ݁ՌΛग़ྗͤ͞Δͷ͸զʑͷ੹຿
    ɹˠ"*ग़ྗͷ඼࣭؅ཧͷॏཁੑ

    View Slide

  18. --.ಋೖͰେࣄͳ͜ͱ

    View Slide

  19. 19
    --.ΛϓϩμΫτʹೖΕΔࡍʹॏཁͳ͜ͱ
    --.ΛϓϩμΫτʹಋೖ͢ΔࡍʹॏཁͰ͋Δͱߟ͍͑ͯΔ͜ͱ
    ࣾ಺Ͱͷܒ໤
    ๏తཁ݅ͷΫϦΞ
    ࣗࣾͳΒͰ͸ͷڧΈͷߏங

    View Slide

  20. 20
    --.ΛϓϩμΫτʹೖΕΔࡍʹॏཁͳ͜ͱ
    ࣾ಺Ͱͷܒ໤
    ɾΑ͘ݴΘΕΔ͜ͱ͕ͩɺࣾ಺Ͱܒ໤׆ಈΛߦ͏͜ͱ͸ॏཁɻ
    ɾۀ຿վળ΁ͷ--.ͷ׆༻͕ਐΉɻ
    ɾ༷ʑͳਓ͕--.Λࢼ͢͜ͱͰैདྷͷৗࣝͷ6OMFBSO͕ਐΉɻ
    ɾ୭Ͱ΋--.Λ࢖͑Δ--.Πϯϑϥ੔උ͕ਐΉɻ
    ɾ-"13"4Ͱ͸ɺϋοΧιϯɺษڧձͳͲΛ࣮ࢪ
    ɾϋοΧιϯ͔ΒϓϩμΫτ࣮૷ʹࢸͬͨέʔε΋

    View Slide

  21. 21
    --.ΛϓϩμΫτʹೖΕΔࡍʹॏཁͳ͜ͱ
    ๏తཁ݅ͷΫϦΞ
    ɾ֎෦"1*ʹػີ৘ใ΍Ϣʔβʔ৘ใΛૹ৴ˠ๏తͳཁ݅ΛΫϦΞ͢Δඞཁ
    ɾ-"13"4Ͱ͸ɺ-"13"4Ϣʔβʔ޲͚ʹ"*ར༻ن໿Λ੍ఆ
    ɾݸਓσʔλʹର͢Δ--.ͷར༻ʹ͍ͭͯแׅతͳಉҙΛऔಘ
    ɾΞΫςΟϒϢʔβʔͷׂ͕ಉҙࡁΈ

    View Slide

  22. 22
    --.ΛϓϩμΫτʹೖΕΔࡍʹॏཁͳ͜ͱ
    ࣗࣾͳΒͰ͸ͷڧΈͷߏங
    ɾ--.͸"*Λ࢖ͬͨϓϩμΫτͷࢀೖোนΛେ͖͘Լ͛Δ
    ɾʮ--.Λ࢖͏͜ͱʯ͸ࣗࣾͳΒͰ͸ͷڧΈ .PBU
    ʹ͸ͳΒͳ͍
    ɾࣗࣾͷΞηοτͷՁ஋ΛߴΊΔͨΊʹͦ͜--.Λ࢖͏΂͖
    ɾ-"13"4ͷ৔߹ಠࣗͷσʔλϕʔεʹڧΈ
    ɾσʔλϕʔεͷՁ஋޲্ɾϚονϯά΁ͷ׆༻
    ಠࣗDBͷՁ஋޲্


    είΞϦϯάɾՄࢹԽͳͲ
    ࠾༻ޮ཰ԽɾࣗಈԽ


    ٻਓɾεΧ΢τੜ੒ͳͲ

    View Slide

  23. ·ͱΊ

    View Slide

  24. 24
    ·ͱΊ
    --.Ͱ͜Ε·Ͱͷ"*ͷৗࣝ͸େ͖͘มΘ͚ͬͨͲɺ
    ϢʔβʔͷํΛݟͯϓϩμΫτ։ൃ͢Δ࢟੎͸มΘΒͳ͍ɻ

    View Slide

  25. 25
    'JO

    View Slide