Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
KARTE CraftにおけるLLM活用~Craft Functions Copilot~
Search
tik-son
October 02, 2023
Technology
1
1.3k
KARTE CraftにおけるLLM活用~Craft Functions Copilot~
Microsoftと語る LLM実装の最前線 でお話した KARTE CraftにおけるLLM活用 について
https://cto-a.connpass.com/event/292450/
tik-son
October 02, 2023
Tweet
Share
More Decks by tik-son
See All by tik-son
Microsoft の AI 技術 をベースに構成される Craft Copilot
tikson
0
290
AWS とKARTE で作る User State Driven System / user-state-driven-system-with-aws-and-karte
tikson
0
2.3k
User State Driven System with Amazon EventBridge & KARTE
tikson
1
3.6k
PLAID’s Journey with multi cloud
tikson
1
3.5k
マルチクラウドで構築する大規模解析サービス/戦略とポイントについて/
tikson
9
27k
KARTEを支えるAutoScaling~SpotInstance編
tikson
0
1.6k
Other Decks in Technology
See All in Technology
SQLによるオブザーバビリティの進化とClickHouseの実力
mikimatsumoto
0
150
普通の Web エンジニアのための様相論理入門 #yapcjapan / YAPC Hakodate 2024
ytaka23
2
520
Valuable Software Engineering
avandeursen
0
250
【shownet.conf_】ネットワークテストの最適化と利便性の追求
shownet
PRO
0
240
Authenticator のエミュレーションによる パスキーのログインテスト/nikkei-tech-talk-25
nikkei_engineer_recruiting
0
140
Hazard pointers with reference counter
ennael
PRO
0
110
Sansanにおける全社横断データ分析基盤の挑戦と未来 / Challenges and Future of Cross-Organizational Data Analytics Platform at Sansan
sansan_randd
2
310
低コストで実現する社内文書RAG機能を搭載したAIチャットボット開発
takapy
3
590
つよつよリーダーが 抜けたらどうする? 〜ナビタイムのAgile⽀援組織の変遷〜
navitimejapan
PRO
22
13k
不感対策ソリューション
jtes
0
230
LINEヤフー新卒採用 コーディングテスト解説 実装問題編
lycorp_recruit_jp
1
12k
ガバメントクラウド開発と変化と成長する組織 / Organizational change and growth in developing a government cloud
kazeburo
2
530
Featured
See All Featured
Design by the Numbers
sachag
278
19k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
6
230
Statistics for Hackers
jakevdp
796
220k
Debugging Ruby Performance
tmm1
73
12k
Faster Mobile Websites
deanohume
304
30k
Optimizing for Happiness
mojombo
375
69k
StorybookのUI Testing Handbookを読んだ
zakiyama
26
5.1k
Side Projects
sachag
452
42k
Adopting Sorbet at Scale
ufuk
73
8.9k
Robots, Beer and Maslow
schacon
PRO
157
8.2k
Into the Great Unknown - MozCon
thekraken
30
1.4k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
125
18k
Transcript
© PLAID, Incɹ KARTE Craft LLM Craft Functions Copilot 2
023 . 0 9 . 2 8 Microsoft LLM
© PLAID, Incɹ VP of Engineering & Product, Ecosystem
2014 KARTE KARTE API Ecosystem Team 20 22 APN AWS Top Engineers 2
© PLAID, Incɹ ࠓͷ͓ Craft Functions Copilot KARTEΛ֦ு͢Δ Javascript ͷίʔυΛ
LLMΛͬͯੜΈग़ͤΔػೳ (ઈࢍ։ൃத) 3
© PLAID, Incɹ KARTE 4 CX( ) ϝΠϯϢʔβʔϚʔέλʔ 4
© PLAID, Incɹ KARTE Craft KARTE Craft KARTE ͷػೳΛ֦ு͢ΔͨΊͷ։ൃϓϥοτϑΥʔϜɻಛʹ Craft
FunctionsΛར༻͢Δͱɺ ಠࣗαʔόʔΛཱͯͳͯ͘֎෦αʔϏεͱͷϦΞϧλΠϜ࿈ܞΛ࣮ݱͰ͖Δɻ KARTEͰൃੜ͢ΔϢʔβʔͷঢ়ଶͷมԽ ɺಛఆͷεέδϡʔϧΛτϦΨʔʹɺ Craft FunctionsΛ௨ͯ͡൚༻ͳϓϩάϥϜΛ࣮ߦɻ ࣾ֎ͷ༷ʑͳγεςϜͱKARTEͷ࿈ܞΛεϜʔζʹ࣮ݱɻ 5
© PLAID, Incɹ 6
© PLAID, Incɹ 7
© PLAID, Incɹ 8
© PLAID, Incɹ 9
© PLAID, Incɹ GPT 4 ? 10
© PLAID, Incɹ 11 Craft Functions Copilot KARTEΛ֦ு͢Δ Javascript ͷίʔυΛ
LLMΛͬͯੜΈग़ͤΔػೳ (ઈࢍ։ൃத)
© PLAID, Incɹ 12 KARTE ར༻ऀ Azure OpenAI GPT4 ίʔυੜ
Λࢦࣔ Craft Functions Copilot (v 0 . 0 . 1 ) 12 GPT4Λར༻͢ΔϓϩϯϓτΛෳ༻ҙ͠ɺ Πϯϓοτࣗવݴޠೖྗͷ νϟοτΠϯλʔϑΣʔεͰ࡞
© PLAID, Incɹ KARTE API Craft - - - 13
© PLAID, Incɹ Ϧιʔε্ݶ 14 ຊ൪ఏڙʹ͓͚Δ੍ ϨΠςϯγʔ GPT-3.5 and GPT-4
API response time measurements - FYI Azure OpenAI Service ͷΫΥʔλͱ੍ݶ ίετ Azure OpenAI Service ͷՁ֨
© PLAID, Incɹ • ͯ͢ΛGPT4 + ϓϩϯϓτΤϯδχΞϦϯάͷྗٕͰղ͜͏ͱ͠ͳ͍ • λεΫΛదͳཻʹׂ͢Δ •
ׂͨ͠λεΫ͝ͱʹUIΛͨͤΔ • LLMΛ͍ͬͯΔ͔Βͱݴͬͯɺશͯࣗવݴޠೖྗ+ LLMʹ͢ߏ ͱ͠ͳ͍ ◦ ηϨΫτϘοΫεɺݕࡧɺݻఆʹର͢ΔબϘλϯͳͲɺదࡐదॴͳΠ ϯϓοτํࣜΛ༻ҙ͢Δ ຊ൪ఏڙʹ͓͚Δ੍ Λ౿·͑ͨ ઃܭͷϙΠϯτ 15
© PLAID, Incɹ 16 εςοϓΛׂ ༷ʑͳΠϯϓοτํࣜ
© PLAID, Incɹ KARTE ར༻ऀ Azure OpenAI GPT4 εςοϓ 2
Azure OpenAI Embeddings/ GPT3.5 Azure Cognitive Search Vector Search - KARTE API Metadata - Craft Functions Metadata - etc… DB - KARTE API Metadata - Craft Functions Metadata - etc… Azure OpenAI Embeddings/ GPT3.5 Azure Cognitive Search Vector Search - KARTE API Metadata - Craft Functions Metadata - etc… DB - KARTE API Metadata - Craft Functions Metadata - etc… Azure OpenAI Embeddings Azure Cognitive Search Vector Search - Craft Functions Trigger Metadata DB - Craft Functions Trigger Metadata 2. σʔλऔಘεςοϓʹ͓͚Δ ࣭/ઃఆ 1.τϦΨʔεςοϓʹ͓͚Δ ࣭/ઃఆ 3.σʔλग़ྗεςοϓʹ͓͚Δ ࣭/ઃఆ τϦΨʔεςοϓʹ͓͚Δ ઃఆσʔλ 4.ίʔυੜ Λࢦࣔ σʔλऔಘεςοϓʹ͓͚Δ ઃఆσʔλ σʔλग़ྗεςοϓʹ͓͚Δ ઃఆσʔλ ֤εςοϓͷઃఆσʔλΛར༻ͯ͠ίʔυੜ Craft Functions Copilot (v 0 . 1 . 0 ) 17
© PLAID, Incɹ • GPT4Λ༗ޮతʹར༻ͨ͠UIʹΑΓ ◦ τʔΫϯ͕60%ݮ ◦ ϨΠςϯγʔ͕65%վળ ◦
ੜ͞ΕΔίʔυͷਫ਼ ◦ Ϣʔβମݧ্ ݁Ռ / ·ͱΊ • Craft Function Copilotv0.1.0ɻײతͰͳ͍෦͕͋Δ • LLMपΓͷϓϩμΫτΛ͏·͘Έ߹ΘͤΕɺ UI/UXͬͱվળग़དྷΔ༨͋Γͦ͏ 18