Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AWSでLLMアプリをつくろう / LLM App on AWS
Search
吉田真吾
July 25, 2023
Technology
0
470
AWSでLLMアプリをつくろう / LLM App on AWS
2023.7.24 JAWS-UG東京で話した資料です。
吉田真吾
July 25, 2023
Tweet
Share
More Decks by 吉田真吾
See All by 吉田真吾
OCI Generative AI Serviceの話/20240222
yoshidashingo
0
80
ChatGPTでちゃんと成果を出していく/20240215
yoshidashingo
1
1.7k
この先を生き残るために!!「生存戦略としてのLLMアプリ開発技術」/20240124_PE-BANK
yoshidashingo
0
52
LangChainとフルサーバーレスですばやくセキュアなRAGアプリをつくるための実践解説/LangChain_Book
yoshidashingo
8
3.8k
生成AIで本番アプリをリリースするためのAWS, LangChain, ベクターデータベース実践入門 / LangChain-Bedrock
yoshidashingo
1
870
LLM App with Momento
yoshidashingo
0
180
Azure OpenAIをもちいたLLMアプリの企画から本番構築までの道のり/Microsoft Build Japan
yoshidashingo
8
8.5k
RAGアプリにおけるプロンプトとtemperatureの応答品質への影響ほんとのところ/the real case about temperature and template language
yoshidashingo
0
710
Momento Meetup 2
yoshidashingo
0
110
Other Decks in Technology
See All in Technology
AWS学習者向けにAzureの解説スライドを作成した話
handy
2
100
On Your Data を超えていく!
hirotomotaguchi
2
710
FrontDoorとWebAppsを組み合わせた際のリダイレクト処理の注意点
kenichirokimura
1
640
Building a RAG-poweredAI chat appwith Python and VS Code
pamelafox
0
120
One engineer company with Ruby on Rails
rstankov
2
310
今年のRubyKaigiはProfiler Year🤘
osyoyu
0
200
アクセシビリティを考慮したUI/CSSフレームワーク・ライブラリ選定
yajihum
2
1k
Azure犬駆動開発の記録/GlobalAzureFukuoka2024_20240420
nina01
1
230
Reducing Cross-Zone Egress at Spotify with Custom gRPC Load Balancing Recap
koh_naga
0
210
AOAI をきっかけに 社内の Azure 管理を見直した話
recruitengineers
PRO
1
390
どうするコスト最適化のトレードオフ
tetsuyaooooo
1
620
プラットフォームってつくることより計測することが重要なんじゃないかという話 / Platform Engineering Meetup #8
taishin
1
380
Featured
See All Featured
Statistics for Hackers
jakevdp
789
220k
Rebuilding a faster, lazier Slack
samanthasiow
73
8.2k
The Illustrated Children's Guide to Kubernetes
chrisshort
31
46k
GraphQLとの向き合い方2022年版
quramy
32
12k
Building Effective Engineering Teams - LeadDev
addyosmani
28
1.9k
Making Projects Easy
brettharned
108
5.5k
Making the Leap to Tech Lead
cromwellryan
124
8.5k
Adopting Sorbet at Scale
ufuk
68
8.6k
GitHub's CSS Performance
jonrohan
1025
450k
4 Signs Your Business is Dying
shpigford
175
21k
For a Future-Friendly Web
brad_frost
172
9k
The Straight Up "How To Draw Better" Workshop
denniskardys
227
130k
Transcript
"84Ͱ࣮ݱ͢Δ --.ϫʔΫϑϩʔ Ծ JAWS-UG / !ZPTIJEBTIJOHP
吉田真吾 AWS Serverless Hero n p Oracle SA p 113
/ pAWS n ( ) CTO p SaaS ( ) pAWS DevOps n pAWS (2012 ) pAWS Samurai 2014 / 2016 pAWS Serverless Hero AWS AWS Lambda Amazon S3 BRAv6
IUUQTUPLZPTFSWFSMFTTEBZTJP ˣ l(FU5JDLFUTz ˣ 𝕏 l4FSWFSMFTT%BZT 5PLZPʹࢀՃΛਃ͠ࠐΈ·ͨ͠ʂz
None
3"( ݕࡧ֦ுੜ ΞϓϦ ʮ$:%"41&01-&ʯʹɺࣾһ͔Βͷ͍߹ΘͤʹࣗಈͰ͑Δ$IBU(15ػೳʮ$:%"41&01-&$PQJMPU$IBUʯ https://www.cydas.co.jp/news/press/202304_people-gpt/
None
ੈେ--.࣌ "*ͷຽओԽ ΞϓϦ։ൃऀ͕--.ΞϓϦΛϢʔβʔʹಧ͚͍࣌͢ ͬͱখ͍͠Μ͔ͱࢥͬͯͨΑ
λεΫ ❌ ˠ ۀ ⭕ ϫʔΫϑϩʔ ෳͷλεΫΛϓϩάϥϛϯάʹΑΔ੍ޚͱɺ--.ʹΑΔ੍ޚΛͭͳ͍Ͱ ࣮ݱ͢Δ
ֶΜͩ͜ͱ 3"(࣮͍͢͠ˠ<69؍>ैདྷͷݕࡧ6* --.Tͳ͠ ͰղܾͰ͖Δʁ ຒΊࠐΈදݱ &NCFEEJOHT औಘͯ͠ϕΫλʔྨࣅݕࡧ͢ΔΑΓɺΤϯλʔϓ ϥΠζݕࡧͷ΄͏͕͍͍ͨͯɺͯ͢ʹ͓͍ͯྑ͍
--.ͷೳྗΛ׆͔͢ϫʔΫϑϩʔ͕ॏཁ ग़ྗ͕֬ఆతͳϓϩάϥϛϯάͱɺඇ֬ఆతͳ--.ͷΈ߹Θͤ ෳͷλεΫΛνΣΠϯ͍ͯ͘͠🦜🔗 🦜🔗ΞΠσΞʴ࣮ͷๅݿ 3F"DU ˠ MBOHDIBJOBHFOUT )Z%& ˠ ࣭ͷ͑Λ--.͕ໝͯ͠ɺͦͷ͑ʹྨࣅͨࣝ͠ΛݕࡧGSPN MBOHDIBJODIBJOT JNQPSU)ZQPUIFUJDBM%PDVNFOU&NCFEEFS --.0QT㱠.-0QT ೖྗͷมԽ ग़ྗͷมԽʹؾ͖ͮͮΒ͍ ؾ͍ͮͨͱͯͰ͖Δ͜ͱ͕ݶΒΕΔ "1*Ϟσϧͷࠩ͠ସ͑ɺϓϩϯϓτͷௐ ʴ όʔδϣϯཧ ϨεϙϯελΠϜͳͲऔಘ͓͖ͯͩ͘͠Ζ͏ FY -BOH4NJUI
"NB[PO,FOESB 🦜🔗 ⾼精度な⽣成系 AI アプリケーションを Amazon Kendra、LangChain、⼤規模⾔語モデルを使って作る https://aws.amazon.com/jp/blogs/news/quickly-build-high-accuracy-generative-ai-applications-on-enterprise- data-using-amazon-kendra-langchain-and-large-language-models/
🦜🔗 ֶͿͳΒ 6EFNZ -BOH$IBJOʹΑΔେنݴޠϞσϧʢ--.ʣΞϓϦ έʔγϣϯ։ൃೖʕ(15ΛͬͨνϟοτϘοτͷ࣮·Ͱ https://www.udemy.com/course/langchain-apps/
🦜🔗 ֶͿͳΒ ͘͘-BOH$IBJO https://langchain-jp.connpass.com/event/289590/
ηΩϡϦςΟͱϓϥΠόγʔ ຊ൪ڥར༻ʹ͚ͯ
"84ͷΫϥυηΩϡϦςΟσʔλอޢ • ࣄ࣮ • "84ηΩϡϦςΟʹലେͳࢿɿෳͷαʔϏεɺෳͷίϯϓϥ ΠΞϯε४ڌ • ΫϥυΛΫϥυͨΒ͠ΊͯΔͷ "*ʹΑΔίϯτϩʔϧ •
༧ଌ • <>ηΩϡϦςΟ৫ͷ͋ΒΏΔ׆ಈʹෆՄܽʹͳΔ • <>"*ػցֶशͰଅਐ͞ΕͨΦʔτϝʔγϣϯ͕ηΩϡϦςΟΛڧ Խ͢Δ • "NB[PO(VBSE%VUZɺ"NB[PO%FUFDUJWFɺ"NB[PO$PEF(VSVɺ"NB[PO .BDJFʜ • <>σʔλอޢͷΑΓେ͖ͳࢿ͕ਐΉ • (%13ಉ༷ͷن੍ͷੈք֤ࠃͷ͕Γɾ࣮ӡ༻ͷڧԽ CJ Moses による 2023 年以降の セキュリティに 関する予測 https://d1.awsstatic.com/Security/Security_Predictions_e-book_2022_JP .pdf
08"415PQ--.ΞϓϦ<ESBGU> ϓϩϯϓτΠϯδΣΫγϣϯ • --.͕ҙਤ͠ͳ͍ಈ࡞ΛҾ͖ى͜͢ϓϩϯϓτͷ ্ॻ͖ ҆શͰͳ͍ग़ྗॲཧ • όοΫΤϯυγεςϜͷใ͕ग़ྗ͞ΕΔ͜ͱʹ
ΑΔѱ༻ τϨʔχϯάσʔλͷԚછ • ηΩϡϦςΟɺ༗ޮੑɺྙཧత;Δ·͍ͷӨڹ Ϟσϧͷ%P4 • େྔͷτʔΫϯফඅɺϨεϙϯεѱԽɺίετߴ ಅ αϓϥΠνΣʔϯͷ੬ऑੑ • ϓϥάΠϯSEύʔςΟͷίϯϙʔωϯτ͔Β ͷ৵ ػີσʔλͷ࿙Ӯ • ԠͰػີσʔλΛ࿙Ӯ͢ΔՄೳੑˠෆਖ਼ΞΫηεɺ ϓϥΠόγʔ৵ɺηΩϡϦςΟ৵ ҆શͰͳ͍ϓϥάΠϯઃܭ ˞ͱྨࣅ • ϓϥάΠϯ͔Β҆શͰͳ͍ೖྗʹΑΓ੬ऑੑ͕ѱ༻ ͞ΕΔ ΤʔδΣϯτͷ • ࣗతͳΤʔδΣϯτ͕ҙਤ͠ͳ͍݁ՌΛͨΒ͢ ΞΫγϣϯΛ࣮ߦ͢ΔՄೳੑ աͳґଘ • ෆਖ਼֬ɾෆదͳੜίϯςϯπʹґଘͯ͠σϚɺ ๏తɺηΩϡϦςΟ੬ऑੑʹ໘͢Δ Ϟσϧట • ಠࣗϞσϧͷෆਖ਼ΞΫηεɺྲྀग़ˠܦࡁଛࣦɺڝ ૪༏ҐੑԼ ˞ৠཹϑΝΠϯνϡʔχϯάάϨʔ͔ OWASP Top 10 for Large Language Model Applications https://owasp.org/www-project-top-10-for-large-language-model-applications/
ݸਓσʔλอޢ๏੍ɿνΣοΫ͖͢ • ԿΛอޢ͢Δͷ͔ˠʮݸਓͷݖརརӹʯ • ݸਓσʔλอޢͷʮܾఆࢦʯརӹϞσϧ • ࣗݾใίϯτϩʔϧݖͰͳ͘ɺใతଞ͔Βͷࣗ༝ • ΘΕΘΕʹԿ͕ٻΊΒΕ͏Δͷ͔ •
ࣗݾใίϯτϩʔϧݖࡒ࢈ݖతϞσϧͷຊਓಉҙݪଇ ΦϓτΠϯΦϓτΞτ ˠͳʹ͕ ݸਓใͰͳʹ͕ݸਓใͰͳ͍ͱ͍͏ٞʹͳΔ • ใతଞݸਓσʔλॲཧʹجͮ͘ଞऀʹΑΔධՁɾܾఆ͕ຊਓͷࣗݾܾఆΛ્͠͏Δ͜ ͱˠ͔Βͷࣗ༝ ޚͰ͖Δ͜ͱ • ͨͱ͑ • ݹ͍ଐੑใɺ͍͋·͍ͳଐੑใͰ৬ͰͷධՁ͕ܾΊΒΕͨ ˞ͦͦ0&$%ݪଇ σʔλ࣭ͷݪଇ ʹ͍ͯ͠Δ͕ɻ • ؔ࿈ੑͷͳ͍ใͰෆརͳΫϨδοτείΞ͕ܾఆ͞Εͨ ˠ ͜ΕΒΛγεςϜͰϞχλϦϯά͢Δෆஅͷྗ͕ٻΊΒΕ͏Δ • ཧతجૅ͔Β๏ମܥͷཧ • ౷੍͞Εͨඇબผར༻ˠҩྍԾ໊Ճใɿ౷ܭྔʹूܭͨ͠σʔλɺ·ͨೋ࣍ར༻ • ݸਓσʔλॲཧத৺ͷنˠॲཧରͱ͠ͳ͍σʔλͷϚεΩϯάɺΦϓτΠϯॲཧͷෛ୲ • ධՁɾܾఆͷదੑ֬อˠબผΞϧΰϦζϜ దੑͰબผͨ͠ڭҭϓϩάϥϜɺ0,ʁ 【提⾔書公表】デジタル社会を駆動する『個⼈データ保護法制』に向けて(GLOCOM六本⽊会議) https://www.glocom.ac.jp/news/news/8540
🦜🔗 &YQFSJNFOUBMύοέʔδׂ • Ϗοάχϡʔε • $7& ੬ऑੑ ΛؚΉػೳΛͯ͢ผύοέʔδ &YQFSJNFOUBM ʹ
• 🦜🔗ίΞͷεϦϜԽ • $PNNVOJUZνΣΠϯͱ͍͏ύοέʔδͷܭըʹݴٴ • ҙຯ͢Δ͜ͱ • ຊ൪Ͱ͑ͳ͍ ˠ ͍͏Δ • ͜ͷऑɺແ੍ݶʹ֦ு͞ΕΔҰํͩͬͨͷͰ-BNCEB-BZFSʹ͍ ͔ͭΒͳ͘ͳΔ ˠ Ұఆͷަ௨ཧ͕͞ΕΔΑ͏ʹͳΔ • จͷ࣮৺తͳΞΠσΞͷ࣮͕ΑΓ13ग़͘͢͠ͳΔ • "84-BNCEBͰͷར༻ • ݱࡏͷαΠζɿґଘϥΠϒϥϦؚΊͨల։ޙαΠζͰ.#ఔ • εϐϯΞοϓʹ͓͓ΉͶඵఔ͔͔Δˠ4MBDL͔Β͏߹ -B[ZϦεφʔϦτϥΠϔομͷνΣοΫͳͲෳͷରࡦ͕ඞཁ
IUUQTUPLZPTFSWFSMFTTEBZTJP ˣ l(FU5JDLFUTz ˣ 𝕏 l4FSWFSMFTT%BZT 5PLZPʹࢀՃΛਃ͠ࠐΈ·ͨ͠ʂz
%":4্࢙࠷ߴͷϥΠϯφοϓ • ߽՚ηογϣϯ • Ωʔϊʔτɿ"84 • αʔόʔϨεͷख़ •
αʔόʔαΠυओମ͔ΒΤοδϑϩϯτͷ։ൃϥΠϑαΠΫϧ ͷมԽ • ੜ"*ͱαʔόʔϨε • ߽՚εϙϯαʔ • "84 • .PNFOUP • 1JOH$"1 5J%# • .JDSPTPGU • ,%%*ΞδϟΠϧ։ൃηϯλʔ • 4FSWFSMFTT0QFSBUJPOT