Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
[LT]クールなLLMアプリをつくるのは簡単だが本番リリースするのは大変だという話/LLM Engineering
Search
吉田真吾
June 16, 2023
Technology
1
1.3k
[LT]クールなLLMアプリをつくるのは簡単だが本番リリースするのは大変だという話/LLM Engineering
2023.6.16 ChatGPT Meetup #3 で発表したLT資料です。
吉田真吾
June 16, 2023
Tweet
Share
More Decks by 吉田真吾
See All by 吉田真吾
OCI Generative AI Serviceの話/20240222
yoshidashingo
0
84
ChatGPTでちゃんと成果を出していく/20240215
yoshidashingo
1
1.8k
この先を生き残るために!!「生存戦略としてのLLMアプリ開発技術」/20240124_PE-BANK
yoshidashingo
0
53
LangChainとフルサーバーレスですばやくセキュアなRAGアプリをつくるための実践解説/LangChain_Book
yoshidashingo
8
3.8k
生成AIで本番アプリをリリースするためのAWS, LangChain, ベクターデータベース実践入門 / LangChain-Bedrock
yoshidashingo
1
920
LLM App with Momento
yoshidashingo
0
180
AWSでLLMアプリをつくろう / LLM App on AWS
yoshidashingo
0
480
Azure OpenAIをもちいたLLMアプリの企画から本番構築までの道のり/Microsoft Build Japan
yoshidashingo
8
8.5k
RAGアプリにおけるプロンプトとtemperatureの応答品質への影響ほんとのところ/the real case about temperature and template language
yoshidashingo
0
770
Other Decks in Technology
See All in Technology
認知症フレンドリーテックとスタックチャン
naokiuc
0
380
Cypress or Playwright?
rainerhahnekamp
0
180
cgroup v2 で何が変わったのか / TechFeed Experts Night #28
tenforward
2
120
One engineer company with Ruby on Rails
rstankov
2
470
TiDBにおけるテーブル設計と最適化の事例
cygames
0
360
サービス開発におけるVue3とTypeScriptの親和性について
tsukuha
6
900
LLM開発・活用の舞台裏@2024.04.25
yushin_n
3
1.4k
Gitlab本から学んだこと - そーだいなるプレイバック / gitlab-book
soudai
7
1.4k
Microsoft Intune 勉強会 第 2 回目
tamaiyutaro
2
520
多言語化対応における TypeScript の型定義を通して開発のしやすさについて考えた / TSKaigi TypeScript Multilingualization
nabeliwo
2
170
リテール金融(キャッシュレス・ネット銀行・ネット証券)の競争環境と経済圏
8maki
0
1.9k
自らを知り外と繋がる、日経のエンジニア採用とDevRel活動/devreljp92
nishiuma
2
200
Featured
See All Featured
The Power of CSS Pseudo Elements
geoffreycrofte
62
5k
Web development in the modern age
philhawksworth
203
10k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
66
14k
The Invisible Customer
myddelton
114
12k
Unsuck your backbone
ammeep
664
57k
WebSockets: Embracing the real-time Web
robhawkes
59
7k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.1k
The World Runs on Bad Software
bkeepers
PRO
61
6.7k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
358
22k
Build The Right Thing And Hit Your Dates
maggiecrowley
25
2k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
14
8.4k
Done Done
chrislema
178
15k
Transcript
#ChatGPTjp #3 ChatGPT Meetup Tokyo LLM @yoshidashingo
3"( 3FUSJFWBM"VHNFOUFE(FOFSBUJPOݕࡧ֦ுੜ ʮ$:%"41&01-&ʯʹɺࣾһ͔Βͷ͍߹ΘͤʹࣗಈͰ͑Δ$IBU(15ػೳʮ$:%"41&01-&$PQJMPU$IBUʯ https://www.cydas.co.jp/news/press/202304_people-gpt/
⾃社のFAQをベクターデータ化 ChatGPTで回答に利⽤ ਓࣄ'"2ˍ͍߹ΘͤཤྺΛϕΫλʔσʔλԽ
σϞ
ຊ൪༻ͷ--.ΞϓϦέʔγϣϯΛͭ͘Δ --.ͰΫʔϧͳͷΛ࡞Δͷ؆୯͕ͩຊ൪ϨϕϧͷͷΛ࡞Δͷඇৗʹ͍͠ ՝ͱղܾࡦ ࣗવݴޠͷ͍͋·͍͞ ܾఆతͰͳ͍)ʹΑΔ69ෆ߹ ˠ UFNQFSBUVSFɺϓϩϯϓτ࠷ద Խɾόʔδϣχϯάཧ
ίετͱϨΠςϯγʔ ˠਪʹ͏ϞσϧબఆɺτʔΫϯͷௐɺ ݱঢ় ϨΠςϯ γʔղੳ ϓϩϯϓςΟϯά ϑΝΠϯνϡʔχϯά ͦΕҎ֎ • ϓϩϯϓτνϡʔχϯάɿ&NCFEEJOHTΛೖΕସ͑Δ 044ͰͷΈՄೳ • ϑΝΠϯνϡʔχϯάɿλεΫʹ࠷దԽͤ͞ΔͨΊͷαϯϓϧ͕ੑೳʹӨڹˠ͕ɺ͋·ΓظͰ͖ͳ͍ • ৠཹϑΝΠϯνϡʔχϯάɿ5FYUEBWJODJ େ Ͱ--B." খ ͷνϡʔχϯάʹ͏ˠ"MQBDB খ • &NCFEEJOHT ϕΫλʔετΞɿ'FXTIPUT ޙํޓੑͱલํޓੑ • ৽͍͠Ϟσϧશମతʹ༏ΕͯΔ͔͠Εͳ͍͕ɺྼ͍ͬͯΔϢʔεέʔε͋Δͣ • લͷϞσϧʹରͯ͠͏·͘ಈ͍͍ͯͨϓϩϯϓτ͕͏·͘ಈ͔ͳ͍߹ɺͲΜͳҙਤͰϓϩϯϓτ͕νϡʔ χϯά͞Ε͍ͯΔ͔ ढจ όουϓϥΫςΟε Θ͔Βͳ͘ͳΔ IUUQTIVZFODIJQDPNMMNFOHJOFFSJOHIUNM
ຊ൪༻ͷ--.ΞϓϦέʔγϣϯΛͭ͘Δ ෳͷλεΫͰ੍ޚ͞ΕΔϑϩʔߏΛͲ͏͢Δ͔ɺπʔϧͷΈࠐΈ • ϓϩάϥϛϯάʹΑΔ੍ޚϑϩʔͷ࣮ • --.ΤʔδΣϯτʹΑΔஞ੍࣍ޚ ༗ͳϢʔεέʔε •
"*ΞγελϯτɿεέδϡʔϧཧɺϝϞ࡞ɺϖΞϓϩɺϝʔϧରԠɺ༧ɺങ͍ λεΫΛ͜ͳ͢ • νϟοτCPUɿίϯύχΦϯ จࣈԻͰ૬ஊΞΠσΞͳͲͷձ • ϓϩάϥϛϯάήʔϜɿ8FCΞϓϦΛͭ͘ΔɺηΩϡϦςΟͷڴҖΛൃݟ͢ΔɺήʔϜΛ࡞͢Δ • ϥʔχϯάɿຊͷཁɺߨٛɺཧղςετɺ࠾ϑΟʔυόοΫɺσΟϕʔτ૬ख • ࣾσʔλநग़ɿࣗવݴޠ2"ܗࣜͰࣾͷσʔλΛরձ͢Δ • ݕࡧɾਪનɿΩʔϫʔυͰͳࣗ͘વݴޠ͔Βਪఆ͢Δݕࡧ • ӦۀޮΞοϓ • 4&0ରࡦ • ݁ એจ۟Λແࢹͯ͠ϲ݄ޙʹఆணͯ͠Δ͔֬ೝ͢Δ αϚϦʔΛಡΉ ࠷৽ͷπʔϧʹ৮ΕΔΑ͏ʹ৺͕͚Δ IUUQTIVZFODIJQDPNMMNFOHJOFFSJOHIUNM
None
None
None
બఆཧ༝
Microsoft Build 2023 で発表された Cosmos DB 注⽬アップデート https://speakerdeck.com/miyake/microsoft-build-2023-cosmos-db-update?slide=9
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF \ TDPSF IJHIMJHIUTVOEFGJOFE EPDVNFOU\ DPOUFOU͋͋͋͋͋͋͋͋͋͋͋͋͋
NFUBEBUB@TUPSBHF@QBUIYYYYYYYYYY ^ ^ \ TDPSF IJHIMJHIUTVOEFGJOFE EPDVNFOU\ DPOUFOUb͍͍͍͍͍͍͍͍͍͍͍͍͍ NFUBEBUB@TUPSBHF@QBUIYYYYYYYYYYYY ^ ^ \ @JEOFX0CKFDU*E FGCCBCGCF DPOUFOUb࣭ʹؔ࿈ͨ͠ίϯςϯπ͕ͳͯ͘ΉΓΓฦͯ͠͠·͏ؔ ͳ͍ίϯςϯπ WFDUPS$POUFOU< தུʜ࣍ݩશ෦ NPSFJUFNT > ^
None
࣭อূ • Ϣχοτςετɿඞਢ • ηΩϡϦςΟɿ8"'ωοτϫʔΫઃఆ • ҆શੑɿ.PEFSBUJPOɺࣄલνΣοΫɺݸਓใػີใͷೖྗ νΣοΫɺఢରతϓϩϯϓτࢭɺ • ಁ໌ੑɿࢀরݩใ
• ެฏੑɿόΠΞεͷআڈ1SPNQU5FNQMBUFͰͷ;Δ·͍ࢦఆ • ੑೳɿϩάɺ"1.ࢹ • Ԡ࣭ɿϦάϨογϣϯςετɺલॲཧ ςΩετɺཁ • ਖ਼֬ੑɿ"*ʹΑΔճੜσΟεΫϨʔϚʔɺΘ͔Βͳ͍ͱ͖Θ͔Β ͳ͍ͱ͑ͤ͞Δ1SPNQU5FNQMBUF • ݖݶɿςφϯτͷ0/ઃఆ ΦϓτΠϯ ɺจॻΞοϓϩʔυݖݶ
Day1 (6/27) 17:00-17:30 LLM Azure OpenAI Cosmos DB LLM