What is Amazon Bedrock knowledge base with an Amazon Kendra GenAI index?

Transcript

1. 2024/12/08 クラスメソッド株式会社 たかくに Amazon Bedrock knowledge base with an Amazon Kendra GenAI index is 何？
2. 2 • 部署 ◦ AWS 事業本部コンサルティング部 • 名前（ニックネーム） ◦ たかくに • ロール ◦ ソリューションアーキテクト • re:Invent どうだった？ ◦ 楽しかった！が釣りタイトル踏んでしまう ⾃⼰紹介
3. re:Invent 2024 どうでしたか？
4. ⽣成 AI すごかったですね
5. なので⽣成 AI の話をします
6. Dr. Swami’s Key Note
7. 7 Dr. Swami’s Key Note
8. 8 Dr. Swami’s Key Note
9. 9 Dr. Swami’s Key Note
10. Amazon Bedrock knowledge base with an Amazon Kendra GenAI index
11. ⻑い...
12. Let’s Go
13. 1. Amazon Bedrock knowledge base with Vector Database 2. Amazon Bedrock knowledge base with an Amazon Kendra GenAI index 3. Amazon Q Business 13 先に結論（カスタマイズ度で⾔えば）
14. • Amazon Kendra に新しく Amazon Kendra GenAI Enterprise Edition index が登場 • ハイブリッド検索（キーワードとベクトル）、セマ ンティック埋め込み、リランカーモデルなどの最新 の情報検索技術を利⽤している • Amazon Bedrock Knowledge bases や Amazon Q business とシームレスに統合可能 • 3 AZ で冗⻑化 Amazon Bedrock knowledge base with an Amazon Kendra GenAI index 14
15. 今まで（Knowledge bases vs Kendra） • ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング 15
16. ついに、⼀緒になった...！
17. でも、お⾼いんでしょ...？
18. 従来の Kendra より安くなっている
19. 料⾦表 19 https://aws.amazon.com/kendra/pricing/?nc1=h_ls
20. 機能紹介
21. Amazon Bedrock knowledge bases 使いから⾒た視点 21 • ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
22. • 内蔵されているため管理不要 • 同期スケジュールも設定1つで完了 • 同期ジョブのログも取得可能 ベクトルデータベース 22
23. Amazon Bedrock knowledge bases 使いから⾒た視点 23 • ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
24. • シンプルに増えた（Connector v2 のみ対応） • BatchPutDocument API もある ◦ Direct Ingestion の対抗⾺ ◦ $30 per month が気になる データソース 24
25. Amazon Bedrock knowledge bases 使いから⾒た視点 25 • ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
26. • 埋め込みモデルは意識しない • 回答⽣成のモデルは意識する ◦ Anthropic, Nova etc... • ストリーミングの回答⽣成は可能 モデル 26
27. • ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 27
28. • ナレッジベースのようなチャンク化戦略がない ◦ セマンティックチャンキング等 • Custom Data Enrichment はできるため ◦ メタデータの動的付与は可能 チャンキング 28
29. • ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 29
30. • ドキュメントでは英語のみ対応と記載 • ハイブリッド検索のみサポート ◦ ベクトル検索とキーワード検索の組み合わせ • Agents, Guardrails とも統合可能 • クエリ分解も可能 検索⼿法 30
31. • ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 31
32. アクセス権限、フィルタリング 32 • Access Control は利⽤不可 ◦ メタデータフィルタリングを使う • Model generated filter も利⽤可能 • x-amz-kendra-score-confidence キーが鍵にな理 想な予感？
33. x-amz-kendra-score-confidence キー 33
34. • 利⽤⽤途が完全に分かれたアップデートで嬉しい ◦ あわよくば Developer Edition も来てほしい • ⽇本語対応すれば ◦ OpenSearch Serverless 等で作るより、簡単に RAG を体験できる⼿段になりそう ▪ チャンク化考えたくない ▪ マルチモーダルな予定もない 個⼈的な所感をつらつらと... 34