RAGの構築は脳死でやれ

Transcript

1. RAGの構築は脳死でやれ あさひ

2. 株式会社Gemcook 
 あさひ(@asahiXXXXXXXXX)
 
 • 領域
 ◦ バックエンド/インフラ
 • 運営 ◦ TSKaigi ◦ Cloudflare Meet-up Tokyo ◦ AIAU • 好きなモノ ◦ Cloudflare ◦ Hono ◦ Devin ◦ Cursor, Windsurf 自己紹介

3. 宣伝

4. • 会社が拡大期！！
 ◦ 一緒に働ける人を募集しています！
 ▪ フロントエンド
 ▪ バックエンド / インフラ
 • お仕事の依頼もお待ちしております！
 ◦ 開発力不足でしたらお声がけください。

5. AutoRAG

6. • RAG構築の面倒なところをCloudflareで巻いてくれているも の。RAGに必要なCloudflare Stackのラップサービス。
 • RAGの構築、RAGへの検索をフルマネージドにしてくれる サービス。
 ◦ 厳密には内部でLLM生成する際にベクトル検索が必要 かは判断しているかも……
 
 Cloudflare AutoRAGって？
7. 通常のRAGの簡単なイメージ ユ ｜ ザ ｜ の 質 問 ベ ク ト ル 検 索 回 答 を ⽣ 成
8. 広義AutoRAGの簡単なイメージ ユ ｜ ザ ｜ の 質 問 ベ ク ト ル 検 索 回 答 を ⽣ 成 検 索 が 必 要 か 判 断
9. Cloudflare AutoRAGって？
10. 何が嬉しいの？

11. • 格段に簡単に構築できる、検索も容易
 • 競合他社で似たようなことしようと思うともっと高額
 ◦ AWS Bedrock KnowledgeBaseとか
 • テナント機能でリクエストに対しての出し分けが可能
 ◦ metadataを使って分類できる
 ◦ 部署ごとに参照データを分けることを想定
 本来のRAGとの比較
12. 設定
 
 
 回答の生成
 実装例
13. とはいえ…

14. • そもそも要件的にAutoRAGが求められるか？
 • エージェンティックなRAGの方が嬉しくない？
 ◦ tool callingでAgentが解決してくれる方が嬉しい
 ◦ MCPに組み込むとか？
 • 日本語への対応は……
 とはいえ…
15. • 日本語への対応は……
 ◦ 現状良くない。（あんままともなものはない）
 ▪ 軽量なモデルしか扱えない制約がある
 • LLM
 ◦ ない
 • Embedding
 ◦ 多言語モデル：bge-m3
 Workers AIの日本語について

16. • LLM
 ◦ shisa-v2-llama3.1-405b ▪ 上記はどう？って意見聞かれたやつ ◦ gemma-3n-E2B
 ▪ Google I/Oで発表されたやつ
 このへんが採用されたら夢あり
 Workers AIの日本語について

17. まとめ

18. • RAGの構築が簡単、使うのも簡単
 • AutoRAG自体はいいが用途が難しい
 • AutoRAGはAgents SDKと絡めて使うのが良さそう
 
 まとめ
19. ついで