[CATS]Amazon Bedrock GenUハンズオン座学資料 #2 GenU環境でRAGを体験してみよう

Transcript

1. Amazon Bedrock GenUハンズオン 座学資料 #2 GenU環境でRAGを体験してみよう 2025/3/24 Classmethod AI Talks
2. 2 ⾃⼰紹介 • 部署 ◦ AWS事業本部コンサルティング部 • ニックネーム ◦ つくぼし • 最近推しているAWSサービス ◦ AWS Infrastructure Composer • SNS/ブログ ◦ X(@tsukuboshi0755) ◦ DevelopersIO(つくぼし)
3. RAGとは
4. なぜRAGが必要なのか？ 4 ⚫ ⼀般業務で⽣成AIを活⽤したい場合、「社内ドキュメントに基づいて回答できるように したい」という要望が多い ⚫ RAGを構築し⽣成AIに使⽤させる事で、プライベートなドキュメントをクラウド上に格 納しデータ同期するだけで、上記の要望を⽐較的簡単に実⾏できる
5. クイズ！ 5 RAGの正式名称はなんですか？
6. 正解 6 RAG = Retrieval-Augmented Generation (検索拡張⽣成)
7. RAG（Retrieval-Augmented Generation）について 7 ⚫ ⽣成AIの回答精度を⾼めるため、外部知識ベースから関連情報を検索‧取得して活⽤す る⼿法 ⚫ ハルシネーション(嘘)の軽減、専⾨分野での精度向上、企業固有情報の活⽤などのメリッ トがある 参考：https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/kb-how-it-works.html
8. AWSで使⽤できる代表的なRAGサービス Kendra 8 Bedrock Knowledge Bases • ベクトルデータベースの選択肢はない(と いうか⾒えない) • Kendra⾃体にRAG精度向上オプションは 現状なく、⾃前実装が必要になりがち • 豊富なSaaSコネクタを持つ • メタデータやACLを⽤いた検索フィルタ リングが利⽤可能 →ざっくりパラメータを設定してRAGの運⽤ 負荷を極⼒下げたい場合にオススメ • ベクトルデータベースを様々な種類から選 択可能 • Knowlege Bases内で様々なRAG精度向上 オプションを指定可能 • ⼀部のSaaSコネクタなら対応 • メタデータを⽤いた検索フィルタリングの み利⽤可能 →細かくパラメータを設定してRAGの精度を より向上させたい場合にオススメ
9. KendraとKnowledge Basesの違いについてもっと知りたい⽅は... 9 こちらのブログがオススメです！ [Amazon Bedrock] RAG利⽤時の選択肢「Kendra」と「Bedrock Knowledge Bases」を⽐較する
10. RAGの精度向上
11. RAGを使うとこんな要望が多くなりがち 11 RAGの精度を なるべく⼿間かけず 向上させたい！
12. その要望... 12 Bedrock Knowledge Bases を使えば解決できます！
13. Knowledge Basesの機能①：⾼度な解析(Advanced Parsing) 13 ⚫ 複雑な構造を持つドキュメントから精度⾼く情報を抽出‧理解する機能 ⚫ 表、グラフ、図表などの⾮テキスト要素や複雑なレイアウトを含むファイルから、⽂脈 や関係性を保ったまま知識を取得できる。 参照：https://qiita.com/kondo-k/items/1564c72540de3fb791d1
14. Knowledge Basesの機能②：チャンキング戦略(Chunking Strategy) 14 ⚫ ⼤量のテキストを意味のある⼩さな単位（チャンク）に変換する際に、⽂書の分割⽅法 と重複の取り扱いを戦略的に定め、検索効率と回答精度を最適化する⼿法 ⚫ もしいじるならセマンティックチャンキング(⽂章の意味的なまとまりを保持)、または 階層的チャンキング（⽂章の親⼦関係を保持）あたりがオススメ 参照：https://medium.com/@vkrntkmrsngh/chunking-for-enhanced-llm-applications-e7a380b7889a
15. Knowledge Basesの機能③：リランキング(Reranking) 15 ⚫ 検索で取得した複数のチャンクを、クエリとの関連性や内容の質に基づいて再評価‧並 べ替えする⾼度な機能 ⚫ 単純なベクトル類似度だけでなく、セマンティックな理解や⽂脈の関連性を考慮するこ とで、より質の⾼い情報を優先的にRAGシステムに提供する。 参照：https://cookbook.openai.com/examples/question_answering_using_a_search_api