Cloudflareで実現する AIエージェント ワークフロー基盤

2025/01/16 Cloudflare Workers Tech Talks in Tokyo #4
https://workers-tech.connpass.com/event/341209/

Transcript

1. $MPVE fl BSFͰ࣮ݱ͢Δ
   "*ΤʔδΣϯτ
   ϫʔΫϑϩʔج൫
2. ఻͍͑ͨ͜ͱ $MPVE fl BSF
   8PSLFSTͰ
   ෼ࢄΤʔδΣϯτج൫Λ࡞Δͷ͸࠷ߴ
   ಛʹ
   %PDLFSͰ͸ͳ͘7
   *TPMBUFTͷαϯυϘοΫεཻ౓͸
   ϫʔΫϑϩʔͷ/PEFͱ૬ੑൈ܈
3. ࣗݾ঺հ ُా
   ਸ਼و .BDCFF
   1MBOFU
   71
   PG
   3%
   ઑٕͬͨज़ͳΜͰ΋԰
   ޷͖ͳٕज़ྖҬ
   .-%4%$(αʔόαΠυిࢠ޻࡞
   ͦͷଞͷͩ͜ΘΓ
   ָثίʔώʔᖿḦΧϝϥ !LNE@
4. ࡢ೥ • Workers Tech Talks in Osaka#1 “1000ສUU௒ͷαʔϏεΛHonoͱCloud fl are Workersʹஔ͖׵͑Δཧ༝” Ҿ༻
   Cloudflare Workers Tech Talks in Osaka #1: https://blog.yusu.ke/workers-tech-talks-osaka-1/
5. --.࢖ͬͯ·͔͢ʁ
6. ୯ମͩͱۤखͳ͜ͱ͕ଟ͍ • ࠷৽·ͨ͸ϩʔΧϧͳ৘ใ • ֶशσʔλʹͳ͍ͷͰ஌Βͳ͍ • ܭࢉ΍ϩδΧϧͳ൑ఆ • ޙଓτʔΫϯͷ֬཰తͳग़ྗͳͷͰؒҧ͍͕ଟ͍ • ֎෦APIͱͷ࿈ܞ(input/output) • ୯ମͰ͸֎෦ͱͷ࿈ܞ͕Ͱ͖ͳ͍͜ͱ͕ଟ͍ • ෳࡶͳࢥߟɾॲཧ • ϓϩϯϓτΛ1ճ࣮ߦ͢Δ͚ͩͰಘΒΕΔग़ྗʹ͸ݶք͕͋Δ͜ͱ͕ଟ͍
7. ͦ͜Ͱ
   ΤʔδΣϯτϫʔΫϑϩʔ
   --.͕֎ք ଞ--."1* ͱࣗ཯తʹΑ͠ͳʹ΍ͬͯ͘ΕΔ΍ʔͭ
8. ୯ମͩͱۤखͳ͜ͱ͕ଟ͍ • ࠷৽·ͨ͸ϩʔΧϧͳ৘ใ • ֶशσʔλʹͳ͍ͷͰ஌Βͳ͍ • ܭࢉ΍ϩδΧϧͳ൑ఆ • ޙଓτʔΫϯͷ֬཰తͳग़ྗͳͷͰ೉͍͠ • ֎෦APIͱͷ࿈ܞ(input/output) • ୯ମͰ͸֎෦ͱͷ࿈ܞ͕Ͱ͖ͳ͍͜ͱ͕ଟ͍ • ෳࡶͳࢥߟ • ϓϩϯϓτΛ1ճ࣮ߦ͢Δ͚ͩͰಘΒΕΔग़ྗʹ͸ݶք͕͋Δ͜ͱ͕ଟ͍
9. • ࠷৽·ͨ͸ϩʔΧϧͳ৘ใ • ֶशσʔλʹͳ͍ͷͰ஌Βͳ͍ • ܭࢉ΍ϩδΧϧͳ൑ఆ • ޙଓτʔΫϯͷ֬཰తͳग़ྗͳͷͰ೉͍͠ • ֎෦APIͱͷ࿈ܞ(input/output) • ୯ମͰ͸֎෦ͱͷ࿈ܞ͕Ͱ͖ͳ͍͜ͱ͕ଟ͍ • ෳࡶͳࢥߟɾॲཧ • ϓϩϯϓτΛ1ͭͰಘΒΕΔग़ྗʹ͸ݶք͕͋Δ ୯ମͩͱۤखͳ͜ͱ͕ଟ͍ Tool use ֎෦πʔϧ(API)ͱͷަޓ࡞༻ʹΑΓLLM ͷೳྗΛ֦ு͢Δύλʔϯ ྫ: ݕࡧ/ίʔυ࣮ߦ/Notion࿈ܞͳͲ Planning ໨త׬਱ͷͨΊʹଟஈ֊ͷ࣮ߦܭըΛLLMʹΑͬ ͯͨͯɺ෼୲ͨ͠λεΫΛஞ࣍਱ߦ
10. σϞ
11. ΤʔδΣϯτνʔϜఆٛํ๏
12. Կ͕ߦΘΕ͍͔ͯͨ w --.ʹΑΔಈతͳ1MBOOJOH ࣮ߦܭըͷ࡞੒
    w 5PPM
    VTF
13. ຊج൫ͷخ͍͠ͱ͜Ζ w ര଎෼ࢄ࣮ߦͰ͖Δ εέʔϥϏϦςΟ
    w --.ͷ੍ޚ͕ॊೈ
    w ಈతͳίʔυΛϦϞʔτ࣮ߦՄೳ
    w ϫʔΫϑϩʔఆ͕ٛ؆୯
    w ࣗવݴޠΛ΋ͱʹ"*͕ಈతͳάϥϑΛੜ੒
    w ΤʔδΣϯτνʔϜͷఆٛΛZBNMͰఆٛ
    w νʔϜఆٛͷZBNM͸--.ͰಈతʹՄೳ ࣮૷த
    w -BOHDIBJOΤίγεςϜͱͷޓ׵ੑ༗
14. ຊج൫ͷخ͍͠ͱ͜Ζ w ര଎෼ࢄ࣮ߦͰ͖Δ εέʔϥϏϦςΟ
    w --.ͷ੍ޚ͕ॊೈ
    w ౉ͨ͠ίʔυΛϦϞʔτ࣮ߦՄೳ
    w ϫʔΫϑϩʔఆ͕ٛ؆୯
    w ࣗવݴޠΛ΋ͱʹ"*͕ಈతͳάϥϑΛੜ੒
    w ΤʔδΣϯτνʔϜͷఆٛΛZBNMͰఆٛ
    w νʔϜఆٛͷZBNM͸--.ͰಈతʹՄೳ ࣮૷த
    w -BOHDIBJOΤίγεςϜͱͷޓ׵ੑ༗ $MPVE fl BSFͷػೳ܈ʹΑΓ
    ࿑࣮ͤͣݱ
15. ര଎෼ࢄ࣮ߦ ௨ৗ͜ΕΛ΍Ζ͏ͱ͢Δͱਏ͍ͷͰϞϊϦγοΫߏ੒ʹͳΓ͕ͪ Πϯϑϥʹؔͯ͠ɺLLMʹΑͬͯϊʔυ΁ͷෛ୲͕ಈతʹมΘΔͨΊෛՙ͕ಡΊͳ͍ • ֤ϊʔυͷαʔόΠϯελϯε਺Λར༻ঢ়گʹ߹Θͤͯௐ੔͕… • ֤ϊʔυͷΦʔτεέʔϧͷεϐϯΞοϓ vs ࠷௿ݶΩϟύࢦఆ͕… Cloud fl are WorkersʹΑΓ࣮ݱ: • ϫʔΫϑϩʔͷ֤ϊʔυΛCloud fl are WorkersͰ෼ࢄ࣮ߦ • ΦϯσϚϯυͳىಈ • 0 ms εϐϯΞοϓ • ࠷ߴͳεέʔϥϏϦςΟ 7.΍ίϯςφͰͳ͘8PSLFSTͷ࣮ߦ୯Ґͱ૬ੑൈ܈
16. ΤʔδΣϯτ/PEFʹ͓͍ͯ૬ੑൈ܈ w "QQMJDBUJPOʹดͨ͡ίʔυ࣮ߦ
    
    GFUDI͔͠Ͱ͖ͳ͍
    w ΤʔδΣϯτ/PEFͷཁ݅తʹ্هͰे෼
    w ݺ͹Εํ͕ෆఆͳ؀ڥʹ͓͍ͯηΩϡϦςΟతʹٯʹخ͍͠
    w ΤʔδΣϯτΤίγεςϜͷଟ͕͘5ZQF4DSJQU
    1ZUIPO Ҿ༻ݩ
    #SJOHJOH
    1ZUIPO
    UP
    8PSLFST
    VTJOH
    1ZPEJEF
    BOE
    8FC"TTFNCMZ
    IUUQTCMPHDMPVE fl BSFDPNQZUIPOXPSLFST
17. --.ͷ࣮ߦ੍ޚ͕ॊೈ Cloud fl are AI Gateway͕࠷ߴ LLMͷAPI܈(OpenAI, Gemini, Anthropic…)ͷϓϩΩγ ᙱ͍ͱ͜ΖΛҰखʹ୲ͬͯ͘ΕΔ • Rate limiting • Logging • Analytics • ଞϞσϧ΁ͷfallback
18. ౉ͨ͠ίʔυΛϦϞʔτ࣮ߦՄೳ ஫: Cloud fl areଆ͕ҙਤ͍ͯ͠ͳ͍hackͳՄೳੑ͕͋Γ·͢ ΤʔδΣϯτϫʔΫϑϩʔతʹ͜Ε͕Ͱ͖ΔͱϝϦοτେ → LLM͕ੜ੒ͨ͠ίʔυΛಈతʹ࣮ߦͰ͖Δ (ࣄલʹtoolsΛ࡞Δඞཁ͕ͳ͘ͳΔ) ੜVM, DockerͰ΋ߦ͍ͨ͘͸ͳ͍ → V8 IsolateͳΒͳΜͱ͔ Ҿ༻ݩ
    $MPVE fl BSF
    %PDT
    +BWB4DSJQU
    4UBOEBSET
    IUUQTEFWFMPQFSTDMPVE fl BSFDPNXPSLFSTSVOUJNFBQJTXFCTUBOEBSET
19. Կ͕ߦΘΕ͍͔ͯͨ w --.ʹΑΔಈతͳ1MBOOJOH ࣮ߦܭըͷ࡞੒
    w 5PPM
    VTF
20. $MPVE fl BSF
    8PSLFST͸1ZUIPO࣮ߦՄೳ
    ʢ#FUB
21. ಈతͳίʔυΛϦϞʔτ࣮ߦՄೳ ஫: Cloud fl areଆ͕ҙਤ͍ͯ͠ͳ͍hackͳՄೳੑ͕͋Γ·͢ Python࣮ߦ͸Workerdʹ಺แ͞ΕͨPyodideͰ ίʔυΛஞ࣮࣍ߦ͍ͯͨ͠͸ͣ ↓ PyodideʹॲཧΛҕৡ͍ͯͯ͠ख෇͔ͣͳͷͰ͋Ε͹…(ѱ͍إ) FWBM
    FYFDͱ΋ʹ௨ͬͨ
22. ͜ΕʹΑͬͯUPPMTΛ
    ಈతʹੜ੒Ͱ͖ΔΑ͏ʹ Ծ ஫: Cloud fl areଆ͕ҙਤ͍ͯ͠ͳ͍hackͳՄೳੑ͕͋Γ·͢
23. ຊج൫ͷخ͍͠ͱ͜Ζ w ര଎෼ࢄ࣮ߦͰ͖Δ εέʔϥϏϦςΟ
    w --.ͷ੍ޚ͕ॊೈ
    w ಈతͳίʔυΛϦϞʔτ࣮ߦՄೳ
    w ϫʔΫϑϩʔఆ͕ٛ؆୯
    w ࣗવݴޠΛ΋ͱʹ"*͕ಈతͳάϥϑΛੜ੒
    w ΤʔδΣϯτνʔϜͷఆٛΛZBNMͰఆٛ
    w νʔϜఆٛͷZBNM͸--.ͰಈతʹՄೳ ࣮૷த
    w -BOHDIBJOΤίγεςϜͱͷޓ׵ੑ༗ $MPVE fl BSFͷػೳ܈ʹΑΓ
    ࿑࣮ͤͣݱ SPPU fl P fl PBJΛϕʔε ʹ࣮ݱ ࢀߟ
    'MPBJ
    IUUQT fl PBJSPPU fl PBJ
24. ΤʔδΣϯτνʔϜఆٛํ๏
25. ΤʔδΣϯτνʔϜఆٛํ๏ w LT෩ͷZBNMͰఆٛՄ
    w UPPMTΛCJOE͠ZBNM಺ఆٛͰ࢖༻
    w UPPMT͸-BOH$IBJOͱಉ͡*'
    ˠ
    ͜ͷಛ௃͔ΒɺνʔϜఆٛΛߦ͏ZBNM΋--.Ͱಈతʹੜ੒Մೳ
26. ࠓޙͷల๬ • ϩʔΧϧ࣮ߦ͍ͯ͠Δ෦෼Λαʔόʹ৐ͤΔ • ݱঢ়PythonΤίγεςϜݻ༗ͷॲཧ͸ͳ͍ͷͰTSԽ • ֎෦APIͱͯ͠࿐ग़͢Δ͜ͱͰఆظ࣮ߦͳͲ͕Մೳʹ • ΤʔδΣϯτνʔϜͷyamlఆٛΛLLMͰੜ੒͢ΔΑ͏ʹ • ෳࡶͳϫʔΫϑϩʔ͕ࣗવݴޠͰهड़Մೳʹ • toolsͷ֦ॆ(Slack௨஌ͱ͔) • ͳͲͳͲͳͲͳͲ
27. $MPVE fl BSF
    8PSLFSTͷ͓͔͛Ͱ
    ΤʔδΣϯτϫʔΫϑϩʔ͋Δ͋Δͳ
    ՝୊͕ղܾͰ͖͍ͯΔ
28. $MPVE fl BSFͰ
    ΤʔδΣϯτϫʔΫϑϩʔ͸
    ࠷ߴʂ