Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Amazon BedrockとOpenSearch Serviceでなんでも答えられる社内RA...
Search
とすり
July 31, 2024
Technology
2
480
Amazon BedrockとOpenSearch Serviceでなんでも答えられる社内RAGを作成する!!
とすり
July 31, 2024
Tweet
Share
More Decks by とすり
See All by とすり
RAGの精度が全然上がらない!! AOSSを使った社内RAG開発の反省
tosuri13
2
170
AWS Chaliceで始める爆速サーバレスチャットボット開発!!
tosuri13
1
100
Amazon BedrockでサーバレスなAIお料理ボットを作成する!!
tosuri13
2
440
React + TextAliveでカッコいいLyric Applicatioinを作ろう!!
tosuri13
1
570
Radix UI & shadcn/uiのススメ
tosuri13
0
120
Other Decks in Technology
See All in Technology
Plants vs thieves: Automated Tests in the World of Web Security
leichteckig
0
130
第27回クラウド女子会 ~re:Invent 振り返りLT会~ 私の周辺で反響のあった re:Invent 2024 アップデートつれづれ/reinvent-2024-update-reverberated-around-me
emiki
1
390
AIアプリケーション開発でAzure AI Searchを使いこなすためには
isidaitc
1
150
30分でわかる「リスクから学ぶKubernetesコンテナセキュリティ」/30min-k8s-container-sec
mochizuki875
3
460
メンバーがオーナーシップを発揮しやすいチームづくり
ham0215
2
290
PaaSの歴史と、 アプリケーションプラットフォームのこれから
jacopen
7
1.6k
AWS Community Builderのススメ - みんなもCommunity Builderに応募しよう! -
smt7174
0
210
あなたの人生も変わるかも?AWS認定2つで始まったウソみたいな話
iwamot
3
890
【JAWS-UG大阪 reInvent reCap LT大会 サンバが始まったら強制終了】“1分”で初めてのソロ参戦reInventを数字で振り返りながら反省する
ttelltte
0
160
スクラムマスターの活動と組織からの期待のズレへの対応 / Dealing with the gap between Scrum Master activities and organizational expectations
pauli
1
580
いま現場PMのあなたが、 経営と向き合うPMになるために 必要なこと、腹をくくること
hiro93n
9
8.4k
あなたの知らないクラフトビールの世界
miura55
0
160
Featured
See All Featured
Git: the NoSQL Database
bkeepers
PRO
427
64k
Product Roadmaps are Hard
iamctodd
PRO
50
11k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
26
1.9k
The Pragmatic Product Professional
lauravandoore
32
6.4k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
30
2.1k
Learning to Love Humans: Emotional Interface Design
aarron
274
40k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.4k
Facilitating Awesome Meetings
lara
51
6.2k
Scaling GitHub
holman
459
140k
Keith and Marios Guide to Fast Websites
keithpitt
410
22k
Designing on Purpose - Digital PM Summit 2013
jponch
117
7.1k
Reflections from 52 weeks, 52 projects
jeffersonlam
348
20k
Transcript
Am a zon BedrockͱOpenSe a rch Service ͰͳΜͰ͑ΒΕΔࣾRAGΛ࡞͢Δ!! @tosuri13
@tosuri13 ࣗݾհ ͱ͢Γ @tosuri13 MOTEXגࣜձࣾ ॴଐ 🐧 Μ͗Μ͕͖Ͱ͢
@tosuri13 ࠔ͍ͬͯͨ͜ͱ Γ͍ͨ͜ͱ͕ॻ͔Ε͍ͯΔࢿྉΛύοͱݟ͚ͭΒΕͳ͍!! ɹˠ طଘͷRAGιϦϡʔγϣϯϑϧϚωʔδυͳAWSαʔϏεɺυΩϡϝϯ τॲཧͷॊೈੑίετ໘Ͱؾܰʹࢼͮ͠Β͍… ɹˠ ࣗͨͪͰࣾͷυΩϡϝϯτΛݕࡧͯ͠AIʹճͯ͠Β͏ಠࣗͷRAGΞ ϓϦέʔγϣϯΛ࡞Ζ͏!!
@tosuri13 RAGͱ? RAG(Retriev a l Augmented Gener a tion)ͱɺ֎෦͔Βऔಘͨ͠ճͷࢀߟͱͳ ΔใΛLLMʹࢀরͤͯ͞ճΛੜ͢Δख๏Ͱ͢ɻ
RAGΛ͏͜ͱʹΑͬͯɺLLM͕ຊདྷΓಘͳ͍ใΛิͯ͠ճΛੜͤ͞ Δ͜ͱ͕Ͱ͖ΔΑ͏ʹͳΓ·͢!! ֎෦DB LLM AIΛ༻͍ͯݕࡧ ྨࣅ͢ΔใΛ͢ औಘͨ͠ใΛ ࢀরͯ͠ճ
@tosuri13 ϕΫτϧݕࡧʹ͍ͭͯ ·ͨɺࢀߟใͱ͍ͯͨ͠͠υΩϡϝϯτΛݕࡧ͢ΔͨΊʹɺϕΫτϧݕࡧ ͱ͍͏ख๏͕RAGγεςϜͰ͘࠾༻͞Ε͍ͯ·͢ɻϕΫτϧݕࡧʹΑΓࣗવ ݴޠΛ༻͍ͨυΩϡϝϯτͷݕࡧ͕Ͱ͖ΔΑ͏ʹͳΓ·͢!! ϕΫτϧετΞ [0.8, 0.3, 0.1 …
] [0.4, 0.4, 0.3 … ] [0.5, 0.7, 0.8 … ] େྔͷυΩϡϝϯτ ࣭ [0.8, 0.3, 0.2 … ] ࣭ϕΫτϧԽͯ͠ ࣅ͍ͯΔϕΫτϧΛݕࡧ͢Δ!! υΩϡϝϯτΛϕΫτϧԽͯ͠ ྨࣅ͢ΔจষΛ୳͘͢͢͠Δ!!
ૣRAGΞϓϦέʔγϣϯΛAWSͰ࡞ͬͯΈͨ!! @tosuri13
@tosuri13 ༻͢ΔAWSαʔϏεΛϐοΫΞοϓ!! ɾAm a zon Bedrock ɹˠ ճϕΫτϧͷੜʹ༻͠·͢ɻ༻͢Δج൫ϞσϧҎԼͷ2ͭͰ͢ɻ ɹɹ- Cl
a ude 3.5 Sonnet (ճੜ༻) ɹɹ- Tit a n Text Embedding v2 (ϕΫτϧੜ༻) ɾAm a zon OpenSe a rch Service ɹˠ ϕΫτϧΛ֨ೲͯ͠ηϚϯςΟοΫݕࡧΛߦ͏ϕΫτϧετΞͱͯ͠༻͠·͢ɻ ɾAm a zon S3 ɹˠ ݩͷυΩϡϝϯτͱࣝผࢠࢀরݩURLͳͲͷϝλσʔλΛอ͠·͢ɻ
@tosuri13 RAGΞϓϦέʔγϣϯͷAWSߏਤ νϟοτΞϓϦ ཧऀ API G a tew a y
L a mbd a SNS Bedrock L a mbd a OpenSe a rch L a mbd a S3 Bedrock ճ ͷ ฦ ৴ ճͷੜ ϕΫτϧετΞ υΩϡϝϯτཧ ϕΫτϧม ॳճԠ (λΠϜΞτରࡦ) WebhookͰ࣭Λૹ৴
@tosuri13 ԿͰฉ͚ΔΑ͏ʹͳͬͨ!! ࣮ࡍͷճΛ͓ݟͤ͢Δ͜ͱͰ͖·ͤΜ͕ɺνϟοτΞϓϦΛ༻ͯ͠ҎԼͷ Α͏ͳΠϝʔδͰճͯ͠Β͏͜ͱ͕Ͱ͖ΔΑ͏ʹͳΓ·ͨ͠!! RAGΞϓϦέʔγϣϯ ࠔ͍ͬͯΔࣾһ ͜ͷAPIͬͯͲ͏͍͏Ϩεϙϯε ฦ͢Μ͚ͩͬ… ઃܭࢿྉʹΑΔͱ͜ͷΑ͏ͳεΩʔϚͷ Ϩεϙϯε͕ฦ͞ΕϚεɻ
ɹ{JSONεΩʔϚ} ɾAPIઃܭࢿྉͷURL ɾAPIઃܭ࣌ͷMTGࢿྉͳͲͷURL νϟοτͰ࣭
ࡉ͔͍࣮ͨ͠ϙΠϯτ!! @tosuri13
@tosuri13 ᶃ νϟϯΫͷׂํ๏ νϟοτΞϓϦ ཧऀ API G a L a
SNS Bedrock L a OpenSe a rch L a mbd a S3 Bedrock ճ ͷ ฦ ৴ ճͷੜ ϕΫτϧDB υΩϡϝϯτཧ ϕΫτϧม ॳճԠ (λΠϜΞτରࡦ) WebhookͰ࣭Λૹ৴
@tosuri13 ᶃ νϟϯΫͷׂํ๏ ϕΫτϧΛੜ͢ΔݩͱͳΔจࣈྻɺա͗ͯա͗ͯճͷਫ਼͕ѱԽ ͯ͠͠·͏Մೳੑ͕͋Γ·͢ɻ ɾจࣈྻ͕ա͗Δ → LLMʹஅยతͳใ͔͠༩͑ΒΕͳ͍ ɾจࣈྻ͕ա͗Δ →
ॏཁͳจ຺͕΅͚ͯ͠·͍ɺਖ਼͘͠ݕࡧ͞Εͳ͍Մೳੑ͕ߴ·Δ ɹˠ దʹυΩϡϝϯτΛνϟϯΫׂͯ͠ϕΫτϧԽ͢Δඞཁ͕͋Δ!!
@tosuri13 ᶃ νϟϯΫͷׂํ๏ ͲͷυΩϡϝϯτ౷ҰతʹM a rkdownʹมΛߦ͍ɺH1H2λά͝ͱʹׂ͢ Δ͜ͱͰɺదͳαΠζ͔ͭจ຺Λอ࣋ͨ͠ঢ়ଶͰνϟϯΫׂΛ͍ͯ͠·͢ɻ htmlɾcsvɾtxtͳͲ M a
rkdown # ேྱMTGϝϞ ## ਐḿ֬ೝ ɹ- A͞Μ: ͍͢͝ਐΜͰΔɺେৎͦ͏ ɹ- B͞Μ: શવਐΜͰͳ͍ɺࠔͬͨ… ## ࠓͷλεΫ ɹ- Xࣾͱͷଧͪ߹Θͤ ɹ- ์ஔ͞Ε͍ͯΔίϯϑϦΫτΛमਖ਼͢Δ S3͔ΒͷΠϕϯτ௨Λड͚औͬͯ M a rkdownʹม!! ҎԼͷΑ͏ͳΠϝʔδͰνϟϯΫׂ!!
@tosuri13 ᶄ Tool useʹΑΔCit a tions νϟοτΞϓϦ ཧऀ API G
a L a SNS Bedrock L a mbd a OpenSe a rch L a S3 Bedrock ճ ͷ ฦ ৴ ճͷੜ ϕΫτϧDB υΩϡϝϯτཧ ϕΫτϧม ॳճԠ (λΠϜΞτରࡦ) WebhookͰ࣭Λૹ৴
@tosuri13 ᶄ Tool useʹΑΔCit a tions ϕΫτϧݕࡧʹΑΓऔಘͨ͠υΩϡϝϯτʹɺඞͣؔ͠࿈͢ΔใͷΈؚ͕ ·Ε͍ͯΔͱݶΓ·ͤΜɻͦͷͨΊɺҾ༻ݩͱͳΔURLΛฦ͢߹࣭ͱؔ ͷͳ͍URLؚ͕·Εͯ͠·͏ͳͲ͕͋Γ·͢ɻ RAGΞϓϦέʔγϣϯ
༗څͷਃํ๏Λڭ͑ͯ!! ͍͔ͭ͘ݟ͚͖ͭͯ·γλɻ ɾ{ܦඅਃํ๏ͷURL} ɾ{༗څਃํ๏ͷURL} ɾ{ೖୀࣨਃํ๏ͷURL} ٳΈ͍ͨࣾһ ؔͷͳ͍URL ճʹؚΊͯ΄͘͠ͳ͍
@tosuri13 ᶄ Tool useʹΑΔCit a tions LLM͕ࢀߟʹͨ͠༰ͷΈΛฦ͢ϓϩϯϓτΤϯδχΞϦϯάͷख๏ΛCit a tions ͱ͍͍ɺAm
a zon BedrockͷConverse APIʹࡌ͞Ε͍ͯΔTool use (Function C a lling)Λ༻࣮ͯ͠͠·ͨ͠ɻ Ϩεϙϯεͷܗࣜઆ໌Λهࡌͨ͠ πʔϧͷεΩʔϚΛఆٛͯ͢͠ εΩʔϚ LLM ߏԽ͞Εͨঢ়ଶͰʮԿΛࢀߟʹͨ͠ͷ͔?ʯΛड͚औΕΔ!!
@tosuri13 ᶄ Tool useʹΑΔCit a tions ·ͨɺఏڙ͞ΕͨπʔϧΛ͏͔൱͔LLM͕அͯ͠ϨεϙϯεΛฦͨ͢Ίɺ ࢀߟʹͳΔใ͕શ͘ͳ͔ͬͨ߹ͳͲʹϋϧγωʔγϣϯΛ͑ΔΑ͏ͳ͜ͱ Ͱ͖·͢!! RAGΞϓϦέʔγϣϯ
৯͍͠Μͳࣾһ େࡕपลͷඒຯ͍͠ ͓Έম͖ͷ͓ళΛڭ͑ͯ!! ͋ͳͨͷΦϑΟεʹʮܦඅਃʯ ͱ͍͏໊લͷ͓Έম͖͞Μ͕ ซઃ͞Ε͍ͯΔΑ͏σεɻ ɾ{ܦඅਃํ๏ͷURL} ࢀߟใΛݩʹӕͷ༰Λ ճ͢ΔΑ͏ͳ͜ͱΛ͛Δ!!
·ͱΊ @tosuri13
@tosuri13 ·ͱΊͱײ Am a zon BedrockͱOpenSe a rchΛ͏͜ͱͰɺؾܰʹRAGΞϓϦέʔγϣϯΛ ߏங͢Δ͜ͱ͕Ͱ͖·ͨ͠!!·ͨɺಠࣗͰRAGΛ࣮͢Δ͜ͱʹΑΓɺAIγεςϜ ͷࣝؔ࿈͢ΔAWSαʔϏεͷཧղ͕ਂ·Γ·ͨ͠!!
ࢲͷLTΛฉ͍ͯRAGʹڵຯΛ࣋ͬͨํ͕͍Εɺͥͻࣗ͝Ͱ࣮ͯ͠ࢼͯ͠Έ ͯ΄͍͠ͱࢥ͍·͢!!
@tosuri13 ͝ਗ਼ௌ͋Γ͕ͱ͏͍͟͝·ͨ͠!!