Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
[LT]クールなLLMアプリをつくるのは簡単だが本番リリースするのは大変だという話/LLM Engineering
Search
吉田真吾
June 16, 2023
Technology
1
1.3k
[LT]クールなLLMアプリをつくるのは簡単だが本番リリースするのは大変だという話/LLM Engineering
2023.6.16 ChatGPT Meetup #3 で発表したLT資料です。
吉田真吾
June 16, 2023
Tweet
Share
More Decks by 吉田真吾
See All by 吉田真吾
AOAI Dev Day - Opening Session
yoshidashingo
2
440
LLMアプリにエージェントらしさを組み込む/Build LLM Apps Agentically
yoshidashingo
2
600
マルチエージェントで性能が上がったText-to-SQLのいま/Text-to-SQL
yoshidashingo
2
1.7k
AIエージェントをちゃんと作る/How to build agentic AI
yoshidashingo
0
88
OCI Generative AI Serviceの話/20240222
yoshidashingo
0
97
ChatGPTでちゃんと成果を出していく/20240215
yoshidashingo
3
5k
この先を生き残るために!!「生存戦略としてのLLMアプリ開発技術」/20240124_PE-BANK
yoshidashingo
0
75
LangChainとフルサーバーレスですばやくセキュアなRAGアプリをつくるための実践解説/LangChain_Book
yoshidashingo
8
3.9k
生成AIで本番アプリをリリースするためのAWS, LangChain, ベクターデータベース実践入門 / LangChain-Bedrock
yoshidashingo
1
1.1k
Other Decks in Technology
See All in Technology
可視化プラットフォームGrafanaの基本と活用方法の全て
hamadakoji
0
230
クラウド利用者の「責任」をどう果たす?AWSセキュリティ対策のススメ #AWSSummit
hiashisan
0
270
Scaling Technical Excellence at 104: Evolution in AWS and Developer Empowerment
scotthsieh825
1
150
What if...? 처음부터 다시 LLM 어플리케이션을 개발한다면
huffon
0
1k
「我々はどこに向かっているのか」を問い続けるための仕組みづくり / Establishing a System for Continuous Inquiry about where we are
daitasu
0
170
頼られるのが大好きな 皆さんへ - 支援相手との期待の合わせ方、突き放し方 -/For_people_who_like_to_be_relied_on
naitosatoshi
1
290
Luupの開発組織におけるインシデントマネジメントの変遷 ver.RoadtoSRENEXT2024
grimoh
1
270
AWSサービスメニュー開発をしていてAWSを好きだ!と感じた瞬間
toru_kubota
0
130
公共領域から学ぶ クラウド移行についてエンジニアが意識していること
kawakawa2222
0
140
AutomatedLabを使って内部ペンテストを勉強しよう! -やられ社内ネットワークの自動構築-
n_etupirka
1
610
Git 研修 Advanced【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
200
開発生産性をむしろ向上させる セキュリティパートナーの作り方 / Dev Productivity Con 2024
flatt_security
0
360
Featured
See All Featured
Facilitating Awesome Meetings
lara
46
5.8k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
149
45k
The Mythical Team-Month
searls
217
43k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
20
7.2k
Stop Working from a Prison Cell
hatefulcrawdad
266
20k
The Language of Interfaces
destraynor
151
23k
Embracing the Ebb and Flow
colly
81
4.3k
Web Components: a chance to create the future
zenorocha
307
41k
Designing on Purpose - Digital PM Summit 2013
jponch
113
6.6k
[RailsConf 2023] Rails as a piece of cake
palkan
35
4.4k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
44
4.7k
Bootstrapping a Software Product
garrettdimon
PRO
304
110k
Transcript
#ChatGPTjp #3 ChatGPT Meetup Tokyo LLM @yoshidashingo
3"( 3FUSJFWBM"VHNFOUFE(FOFSBUJPOݕࡧ֦ுੜ ʮ$:%"41&01-&ʯʹɺࣾһ͔Βͷ͍߹ΘͤʹࣗಈͰ͑Δ$IBU(15ػೳʮ$:%"41&01-&$PQJMPU$IBUʯ https://www.cydas.co.jp/news/press/202304_people-gpt/
⾃社のFAQをベクターデータ化 ChatGPTで回答に利⽤ ਓࣄ'"2ˍ͍߹ΘͤཤྺΛϕΫλʔσʔλԽ
σϞ
ຊ൪༻ͷ--.ΞϓϦέʔγϣϯΛͭ͘Δ --.ͰΫʔϧͳͷΛ࡞Δͷ؆୯͕ͩຊ൪ϨϕϧͷͷΛ࡞Δͷඇৗʹ͍͠ ՝ͱղܾࡦ ࣗવݴޠͷ͍͋·͍͞ ܾఆతͰͳ͍)ʹΑΔ69ෆ߹ ˠ UFNQFSBUVSFɺϓϩϯϓτ࠷ద Խɾόʔδϣχϯάཧ
ίετͱϨΠςϯγʔ ˠਪʹ͏ϞσϧબఆɺτʔΫϯͷௐɺ ݱঢ় ϨΠςϯ γʔղੳ ϓϩϯϓςΟϯά ϑΝΠϯνϡʔχϯά ͦΕҎ֎ • ϓϩϯϓτνϡʔχϯάɿ&NCFEEJOHTΛೖΕସ͑Δ 044ͰͷΈՄೳ • ϑΝΠϯνϡʔχϯάɿλεΫʹ࠷దԽͤ͞ΔͨΊͷαϯϓϧ͕ੑೳʹӨڹˠ͕ɺ͋·ΓظͰ͖ͳ͍ • ৠཹϑΝΠϯνϡʔχϯάɿ5FYUEBWJODJ େ Ͱ--B." খ ͷνϡʔχϯάʹ͏ˠ"MQBDB খ • &NCFEEJOHT ϕΫλʔετΞɿ'FXTIPUT ޙํޓੑͱલํޓੑ • ৽͍͠Ϟσϧશମతʹ༏ΕͯΔ͔͠Εͳ͍͕ɺྼ͍ͬͯΔϢʔεέʔε͋Δͣ • લͷϞσϧʹରͯ͠͏·͘ಈ͍͍ͯͨϓϩϯϓτ͕͏·͘ಈ͔ͳ͍߹ɺͲΜͳҙਤͰϓϩϯϓτ͕νϡʔ χϯά͞Ε͍ͯΔ͔ ढจ όουϓϥΫςΟε Θ͔Βͳ͘ͳΔ IUUQTIVZFODIJQDPNMMNFOHJOFFSJOHIUNM
ຊ൪༻ͷ--.ΞϓϦέʔγϣϯΛͭ͘Δ ෳͷλεΫͰ੍ޚ͞ΕΔϑϩʔߏΛͲ͏͢Δ͔ɺπʔϧͷΈࠐΈ • ϓϩάϥϛϯάʹΑΔ੍ޚϑϩʔͷ࣮ • --.ΤʔδΣϯτʹΑΔஞ੍࣍ޚ ༗ͳϢʔεέʔε •
"*ΞγελϯτɿεέδϡʔϧཧɺϝϞ࡞ɺϖΞϓϩɺϝʔϧରԠɺ༧ɺങ͍ λεΫΛ͜ͳ͢ • νϟοτCPUɿίϯύχΦϯ จࣈԻͰ૬ஊΞΠσΞͳͲͷձ • ϓϩάϥϛϯάήʔϜɿ8FCΞϓϦΛͭ͘ΔɺηΩϡϦςΟͷڴҖΛൃݟ͢ΔɺήʔϜΛ࡞͢Δ • ϥʔχϯάɿຊͷཁɺߨٛɺཧղςετɺ࠾ϑΟʔυόοΫɺσΟϕʔτ૬ख • ࣾσʔλநग़ɿࣗવݴޠ2"ܗࣜͰࣾͷσʔλΛরձ͢Δ • ݕࡧɾਪનɿΩʔϫʔυͰͳࣗ͘વݴޠ͔Βਪఆ͢Δݕࡧ • ӦۀޮΞοϓ • 4&0ରࡦ • ݁ એจ۟Λແࢹͯ͠ϲ݄ޙʹఆணͯ͠Δ͔֬ೝ͢Δ αϚϦʔΛಡΉ ࠷৽ͷπʔϧʹ৮ΕΔΑ͏ʹ৺͕͚Δ IUUQTIVZFODIJQDPNMMNFOHJOFFSJOHIUNM
None
None
None
બఆཧ༝
Microsoft Build 2023 で発表された Cosmos DB 注⽬アップデート https://speakerdeck.com/miyake/microsoft-build-2023-cosmos-db-update?slide=9
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF \ TDPSF IJHIMJHIUTVOEFGJOFE EPDVNFOU\ DPOUFOU͋͋͋͋͋͋͋͋͋͋͋͋͋
NFUBEBUB@TUPSBHF@QBUIYYYYYYYYYY ^ ^ \ TDPSF IJHIMJHIUTVOEFGJOFE EPDVNFOU\ DPOUFOUb͍͍͍͍͍͍͍͍͍͍͍͍͍ NFUBEBUB@TUPSBHF@QBUIYYYYYYYYYYYY ^ ^ \ @JEOFX0CKFDU*E FGCCBCGCF DPOUFOUb࣭ʹؔ࿈ͨ͠ίϯςϯπ͕ͳͯ͘ΉΓΓฦͯ͠͠·͏ؔ ͳ͍ίϯςϯπ WFDUPS$POUFOU< தུʜ࣍ݩશ෦ NPSFJUFNT > ^
None
࣭อূ • Ϣχοτςετɿඞਢ • ηΩϡϦςΟɿ8"'ωοτϫʔΫઃఆ • ҆શੑɿ.PEFSBUJPOɺࣄલνΣοΫɺݸਓใػີใͷೖྗ νΣοΫɺఢରతϓϩϯϓτࢭɺ • ಁ໌ੑɿࢀরݩใ
• ެฏੑɿόΠΞεͷআڈ1SPNQU5FNQMBUFͰͷ;Δ·͍ࢦఆ • ੑೳɿϩάɺ"1.ࢹ • Ԡ࣭ɿϦάϨογϣϯςετɺલॲཧ ςΩετɺཁ • ਖ਼֬ੑɿ"*ʹΑΔճੜσΟεΫϨʔϚʔɺΘ͔Βͳ͍ͱ͖Θ͔Β ͳ͍ͱ͑ͤ͞Δ1SPNQU5FNQMBUF • ݖݶɿςφϯτͷ0/ઃఆ ΦϓτΠϯ ɺจॻΞοϓϩʔυݖݶ
Day1 (6/27) 17:00-17:30 LLM Azure OpenAI Cosmos DB LLM