Amazon BedrockとAmazon Kendraで数時間でRAGシステムを組んでみた

JAWS-UG AI/ML #18：AWS AI Week For Developers Recap 登壇資料
https://jawsug-ai.connpass.com/event/297521/

Transcript

1. Amazon Bedrockと Amazon Kendraで 数時間でRAGシステムを組んでみた 2023/10/31 JAWS-UG AI/ML #18︓AWS AI Week For Developers Recap LT クラスメソッド株式会社 おのやん
2. ⾃⼰紹介 ⼩野⼭ 翔⼤（おのやん） • 株式会社クラスメソッド AWS事業本部エンジニア • 新卒⼊社1年⽬で頑張ってます • 速報ブログ書いてます
3. ⾃⼰紹介 ⼩野⼭ 翔⼤（おのやん） • 株式会社クラスメソッド AWS事業本部エンジニア • 新卒⼊社1年⽬で頑張ってます • 速報ブログ書いてます
4. 昨今はAIがキている https://openai.com/chatgpt https://aws.amazon.com/jp/bedrock/ https://bard.google.com/?hl=ja
5. Bedrock情報を収集 https://minorun365.connpass.com/event/300097/
6. Bedrocked RAGを作ろう
7. RAGとは︖ Retrieval Augmented Generation 検索技術を活⽤して ⼤規模⾔語モデルの表現を 強化する技術 https://dev.classmethod.jp/articles/ama zon-bedrock-kendra-lambda-rag/
8. AWSサービス内で実装可能に Bedrockの登場により AWSサービスの組み合わせで RAGアプリが実装可能に https://dev.classmethod.jp/articles/amazon- bedrock-kendra-lambda-rag/
9. Kendraのインデックスを作成
10. 名前・IAMロール作成
11. 今回はデフォルトで続⾏
12. Developer editionを選択
13. 作成するインデックスを確認・作成
14. データソースを追加していく
15. 今回はWebクローラ v2.0を使⽤
16. データソースの名前や⾔語を選択
17. BedrockドキュメントをクロールするWebサイトに設定
18. クロールする深さはちょっと⼤きめに5で
19. お⾦がかかるのでクロールは⼿動で実⾏
20. この部分はデフォルト（詳細わかる⽅教えてほしい…）
21. Webのクロールを実⾏
22. クロール実⾏中…
23. クロール完了︕（3時間くらい）
24. 検索もできるように︕
25. 検索⽤のLambraを作成
26. 検索結果も取れる
27. Bedrock⼊⼒⽤のLambdaを追加
28. Kendraの検索結果を反映してBedrockが⽣成
29. いい感じに回答できてそう
30. ドキュメントに無い単語を尋ねると具体性がちょい落ち︖
31. RAGを作ってみた感想 とにかく速く作れる • 今回のRAGアプリ作成まで4~5時間ちょい ブラウザから操作するだけで簡単に作れる • ブログなどの情報源があれば、再現がさらに簡単に • 僕でも作れるという距離感の近さ
32. RAGを作ってみた感想 AWSの各サービスと連携すれば無限の可能性 • Kendra + Lambda + Bedrock を使えば ⽂書検索を実装可能 • 他のAWSサービスと組み合わせれば…🤩
33. 参考 https://dev.classmethod.jp/articles/amazon-bedrock-kendra-lambda-rag/
34. ありがとうございました︕