Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AWSでRAGを実現する上で感じた3つの大事なこと
Search
y-mae
February 06, 2025
Technology
3
1.7k
AWSでRAGを実現する上で感じた3つの大事なこと
ARI TechSummit ~AI・生成AI~(2025/02/06実施)LT登壇資料
y-mae
February 06, 2025
Tweet
Share
More Decks by y-mae
See All by y-mae
3/26 クラウド食堂LT #2 GenU案件を通して学んだ教訓 登壇資料
ymae
1
400
「genai-quickstart-pocs」を使ってお手軽に生成AIのPoCを始めよう!
ymae
3
260
生成AIとAWS CDKで実現! 自社ブログレビューの効率化
ymae
4
1.1k
Other Decks in Technology
See All in Technology
AI時代におけるデータの重要性 ~データマネジメントの第一歩~
ryoichi_ota
0
700
AI時代こそ求められる設計力- AWSクラウドデザインパターン3選で信頼性と拡張性を高める-
kenichirokimura
3
350
Codexとも仲良く。CodeRabbit CLIの紹介
moongift
PRO
1
250
Data Hubグループ 紹介資料
sansan33
PRO
0
2.2k
AWS Control Tower に学ぶ! IAM Identity Center 権限設計の第一歩 / IAM Identity Center with Control Tower
y___u
1
200
Node.js 2025: What's new and what's next
ruyadorno
0
510
なぜAWSを活かしきれないのか?技術と組織への処方箋
nrinetcom
PRO
5
980
研究開発部メンバーの働き⽅ / Sansan R&D Profile
sansan33
PRO
3
20k
リセラー企業のテクサポ担当が考える、生成 AI 時代のトラブルシュート 2025
kazzpapa3
1
370
Copilot Studio ハンズオン - 生成オーケストレーションモード
tomoyasasakimskk
0
100
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
12
81k
Introduction to Sansan Meishi Maker Development Engineer
sansan33
PRO
0
310
Featured
See All Featured
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
tammyeverts
10
600
What's in a price? How to price your products and services
michaelherold
246
12k
RailsConf 2023
tenderlove
30
1.3k
Navigating Team Friction
lara
190
15k
A designer walks into a library…
pauljervisheath
209
24k
Unsuck your backbone
ammeep
671
58k
Music & Morning Musume
bryan
46
6.8k
Practical Orchestrator
shlominoach
190
11k
Large-scale JavaScript Application Architecture
addyosmani
514
110k
Testing 201, or: Great Expectations
jmmastey
45
7.7k
Git: the NoSQL Database
bkeepers
PRO
431
66k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
333
22k
Transcript
前野 佑宜 アイレット株式会社 DX開発事業部 モダンエンジニアリングセクション ビジネスデザインG AWSでRAGを実現する上で 感じた3つの大事なこと ARI TechSummit
~AI・生成AI~
はじめに〜 LTの要点〜 本LTでお伝えしないこと • RAGの基本的な概念の解説 • 具体的な実装→Qiitaブログで解説しております • AWSでRAGを実現する上で学んだ教訓 ◦
RAGを実現する上で直面した課題、解決策 本LTでお伝えすること
01 アジェンダ 自己紹介 02 AWSでRAGを実現する手段を整理 03 実際に直面した課題 /解決策 04 RAGを実現する上で学んだ教訓
05 まとめ
01 アジェンダ 自己紹介 02 AWSでRAGを実現する手段を整理 03 実際に直面した課題 /解決策 04 RAGを実現する上で学んだ教訓
05 まとめ
前野 佑宜 2023年新卒入社/入社2年目 2024 Japan AWS Jr. Champions選出 アイレット株式会社 ま え の
ゆ う き 経歴 DX開発事業部/モダンエンジニアリングS/ビジネスデザインG 担当業務 Python/Laravelを使ったバックエンド開発を主に担当 現在はAWSの生成AIサービス/RAGを組み合わせたPoC(概 念実証)に従事 関心のある領域 AWS× AI/MLの領域(Amazon Bedrock/ Amazon SageMakerなど)
01 アジェンダ 自己紹介 02 AWSでRAGを実現する手段を整理 03 実際に直面した課題 /解決策 04 RAGを実現する上で学んだ教訓
05 まとめ
02.AWSでRAGを実現する手段を整理 AWSにおけるRAG構成パターン(代表例) Kendra+Bedrock Knowledge Base
01 アジェンダ 自己紹介 02 AWSでRAGを実現する手段を整理 03 実際に直面した課題 /解決策 04 RAGを実現する上で学んだ教訓
05 まとめ
03.実際に直面した課題 /解決策 「RAG」実現にあたって直面した課題 ①Kendraで同期できないデータがある ②検索性の問題 ③精度をどうやって評価する?
03.実際に直面した課題 /解決策 ①Kendraで同期できないデータがある 同期に失敗 したファイル Document cannot be indexed since
it contains no text to index and search on. Document must contain some text 文字情報が 存在しないと index化不可
03.実際に直面した課題 /解決策 ①Kendraで同期できないデータがある →Amazon Bedrock(Claude Haiku 3)によるテキスト化であ る程度解決 ※書き起こし精度は 元々のドキュメントに
依存 「可能な限りテキスト化して」
03.実際に直面した課題 /解決策 ②検索性の問題 データソースのファイル数増 →「ユーザーが本当に必要としている情報」⇔「実際表示される検索結果」 検証期間は残り 2週間。 なんとか結果を出さねば・・
03.実際に直面した課題 /解決策 ②検索性の問題 →メタデータによるフィルタリングで解決! RAG の精度を向上させる Advanced RAG on AWS
の道標 (AWS Blog)より引用 短い期間でも 改善可能と判断
03.実際に直面した課題 /解決策 ②検索性の問題 メタデータによるフィルタリングのイメージ
03.実際に直面した課題 /解決策 ③精度をどう評価する? RAGのパフォーマンスをどのように評価するか?が課題だった ・検証フェーズは約 1ヶ月。 ・RAG評価ツールに関する知見もあまりない (RAGAS やRAGChecker はちょっと聞いたことある、程度)
03.実際に直面した課題 /解決策 ③精度をどう評価する? →評価項目を定義し、 RAGの結果を定量化 「どんな質問をすることを想定?」 「どんな回答が返ってきたら満足度高い?」 「RAGにおいて何を重視している?」 お客様 「質問内容に近いドキュメントが返却される」
ことが大事
03.実際に直面した課題 /解決策 ③精度をどう評価する? →事前のすり合わせに基づいて、評価スコアを定義・評価 →可視化 最終評価するのはお客様。 →事前にすり合わせを行うことで 最終評価の参考にできる
01 アジェンダ 自己紹介 02 AWSでRAGを実現する手段を整理 03 実際に直面した課題 /解決策 04 RAGを実現する上で学んだ教訓
05 まとめ
04.RAGを実現する上で学んだ教訓 AWSのRAGにおいて大事だと思ったこと ①データソースの質を担保する重要性 ②前段の”検索”の仕組みの改善 ③精度評価 →「お客様と対話し、現場のニーズを把握」
01 アジェンダ 自己紹介 02 AWSでRAGを実現する手段を整理 03 実際に直面した課題 /解決策 04 RAGを実現する上で学んだ教訓
05 まとめ
RAG=「銀の弾丸」ではない! 地道な改善 /ニーズの把握 こそが成果につながる!
ご清聴ありがとうございました
参照文献 • 関連ブログ ◦ AWSでRAGを実装する上で感じた3つの大事なこと (Qiitaブログ) ◦ RAG の精度を向上させる Advanced
RAG on AWS の道標 (AWS)