Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Amazon BedrockとAmazon Kendraで専門知識から回答できる生成系AIサー...

Naoki
October 24, 2023

Amazon BedrockとAmazon Kendraで専門知識から回答できる生成系AIサービスを構築!~業務効率化につなげている話~

Naoki

October 24, 2023
Tweet

More Decks by Naoki

Other Decks in Technology

Transcript

  1. 回答生成までの流れ User ① Amazon Bedrock Claude 2 ③ ④ ⑤

    ② ⑦ ⑥ Amazon Kendra AWS Secrets Manager ① 一般公開されていないFAQ 13
  2. ⑤ ⑥ Claude 2 ⑦ ②質問 事前のデータ同期 User ①同期 Amazon

    Bedrock ③ ④ Amazon Kendra AWS Secrets Manager ①認証情報を参照 一般公開されていないFAQ 14
  3. ⑤ ⑥ Claude 2 質問~Kendraの結果表示 User ①同期 Amazon Bedrock ⑦

    Amazon Kendra AWS Secrets Manager ①認証情報を参照 一般公開されていないFAQ ②質問 ③検索クエリ ④結果表示 15
  4. ②質問 Kendraの結果取得~回答生成 User ①同期 Amazon Bedrock Amazon Kendra AWS Secrets

    Manager ①認証情報を参照 一般公開されていないFAQ ③検索クエリ ④結果表示 ⑤結果を取得 ⑥回答 生成 ⑦ 16 Claude 2
  5. ⑤結果を取得 ⑥回答 生成 Claude 2 Kendraの結果取得&Bedrockの回答確認 User ①同期 Amazon Bedrock

    Amazon Kendra AWS Secrets Manager ①認証情報を参照 一般公開されていないFAQ ②質問 ③検索クエリ ④結果表示 ⑦結果& 回答確認 17
  6. 回答の質が高い RAGアプリの回答 素のモデルの回答 資料[0]によると、HULFTの設定を異 なるOS間で直接引き継ぐ機能は用 意されていないようです。 代替手段として、HULFTの管理情報 をパラメータファイルに書き出して移 行する方法が提案されています。 はい、HULFTの設定を異なる

    OS間で引き継ぐことは可能で す。 主に以下の2つの方法が あります。~~~~~ 質問:異なるOS間でHULFTの設定を引き継ぐことは可能でしょうか。 もっともらしい嘘の回答 (ハルシネーション) 正確な回答 20
  7. データソースの追加が容易 Amazon Kendra 数回クリック 追加 豊富な対応コネクタ •Amazon S3 •Amazon RDS

    for MySQL/PostgreSQL •Amazon Aurora MySQL/PostgreSQL •Amazon FSx for Windows File Server •Amazon WorkDocs •Adobe Experience Manager •Alfresco •Box Enterprise •Atlassian Confluence •Dropbox •GitHub (オンプレミス & SaaS) •Google Drive •Google Gmail •Jira Cloud •Microsoft Exchange(E-mail) •Microsoft OneDrive •Microsoft Teams •Microsoft SharePoint (Online&On-P) •Microsoft Yammar •Perficient •Quip •Salesforce •Slack •ServiceNow •Zendesk ※CFn、CLI等でも可 22
  8. 25 改善策の例 ・Amazon KendraをEnterprise Editionにアップグレードする ・Amazon KendraのAttributeFilter機能を用いる https://aws.amazon.com/jp/kendra/pricing/ Amazon Kendraにおける各Editionの違い

    Developer Edition Enterprise Edition ドキュメントのストレージ 最大10,000ドキュメント 最大100,000ドキュメント データソース 5 50 月額料金 810 USD 1008 USD