社内RAGの導入で気を付けたポイント

クラウド食堂 #8 ~クラウド初心者応援LT会~
https://cloud-shokudo.connpass.com/event/391531/

Transcript

1. 社内RAGを導入するまで気を付けたポイント 八雲 慎之助/Shinnosuke Yakumo 2026/5/19 クラウド食堂 #8
2. クラウド食堂、本日初めてお邪魔します！
3. 八雲 慎之助（やくも しんのすけ） • 所属：株式会社クレスコ / JAWS-UG 新潟支部 • 業務：R&D(AI分野) • AWS Community Builder – AI Engineering • 2025 Japan AWS Jr.Champions Who am I
4. アジェンダ •前提 •技術的制約について（話せる範囲で） •現状と今後のアーキテクチャ •技術選定の判断
5. まず出発点として…（今回はRAGの話だけど..） •チームや組織内に知見はありますか？ •使用する技術の制約はありますか？ •コスト等の条件は？ →個人で検証するのとは違ってチームや組織によっ て条件は様々ありますよね…！
6. モデル選定 ー OpenAI互換のモデルを使いたい！ え！？AWSのナレッジベースなのに OpenAI互換のモデルを使わないとい けないの？ →OpenAIはfunction callingを利用 すればツールの選択ができます。
7. コストの最適化の検討 ー ベクトルストアの選択 • OpenSearchではなく基本的にS3 Vectorsを利用する。 • 9割近いコスト削減が可能 ※シナリオによる
8. リテラシー、ナレッジの蓄積の課題 • Bedrockに送ると情報全部見られるの？ • マルチモーダルなRAGも作りたいなあ • 応答精度があんまし高くないんだよなあ.. • この他にも複数の課題が放置されている
9. 今後（現在）の展望：RAG部分の再利用化
10. RAG部分の再利用化 hogehoge… この部分を…
11. RAG部分の再利用化 hogehoge… 切り出す！
12. RAG部分の再利用化 いろんなアプリから使いたい！
13. Bedrock AgentCoreの利用 •便利な機能がたくさんあるので飛びつきたくなるが •そもそも現状では組織内にナレッジ不足すぎる •正直RAG単体での実装でAgentCore Gatewayは オーバースペックかな… →メンバーのAgentCoreの知見を先にためていく
14. まとめ •流行りのAgentCoreもいいけど、慎重に技術選定を 行う •制約は前提として取り組む •RAG単発で終わらせずに、切り出すことで再利用を 見据えたアーキテクチャとする
15. 告知とか
16. 宣伝：JAWS-UG 新潟支部 BuilderCards 体験会 • 日時：2026/6/6(土) 13:30~17:30 • 会場：新潟駅 NINNO 3 A Room • Bulider Cards 体験会