Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
生成AIアプリケーションにおけるRAGとデータベースの役割
Search
Shu Kobuchi
March 29, 2024
Technology
0
1.4k
生成AIアプリケーションにおけるRAGとデータベースの役割
https://3-shake.connpass.com/event/311868/
3-SHAKE SRETTにて、生成AIのデータベースやストレージに関連した部分を発表。
Shu Kobuchi
March 29, 2024
Tweet
Share
More Decks by Shu Kobuchi
See All by Shu Kobuchi
論文紹介 ”A Survey on Large Language Model based Autonomous Agents”
shukob
0
68
AIエージェント元年@日本生成AIユーザ会
shukob
1
340
AI時代におけるMLOpsのTips
shukob
2
110
AIエージェント元年
shukob
0
250
論文紹介 ”Long-Context LLMs Meet RAG: Overcoming Challenges for Long Inputs in RAG” @GDG Tokyo
shukob
1
530
論文紹介 ”Long-Context LLMs Meet RAG: Overcoming Challenges for Long Inputs in RAG”
shukob
0
120
生成AIでGitHubソースコード取得して仕様書を作成
shukob
0
800
生成AI入門
shukob
0
330
LangChainでWebサイトの内容取得やGitHubソースコード取得
shukob
0
700
Other Decks in Technology
See All in Technology
Go製のマイグレーションツールの git-schemalex の紹介と運用方法
shinnosuke_kishida
1
410
職種に名前が付く、ということ/The fact that a job title has a name
bitkey
1
250
ペアーズにおけるData Catalog導入の取り組み
hisamouna
0
190
AI・LLM事業部のSREとタスクの自動運転
shinyorke
PRO
0
300
React Server Componentは 何を解決し何を解決しないのか / What do React Server Components solve, and what do they not solve?
kaminashi
6
1.2k
3/26 クラウド食堂LT #2 GenU案件を通して学んだ教訓 登壇資料
ymae
1
210
Proxmox VE超入門 〜 無料で作れるご自宅仮想化プラットフォームブックマークする
devops_vtj
0
160
ひまプロプレゼンツ 「エンジニア格付けチェック 〜春の公開収録スペシャル〜」
kaaaichi
0
150
IAMのマニアックな話 2025 ~40分バージョン ~
nrinetcom
PRO
8
940
銀行でDevOpsを進める理由と実践例 / 20250317 Masaki Iwama
shift_evolve
1
110
AIエージェント完全に理解した
segavvy
4
280
大規模アジャイル開発のリアル!コミュニケーション×進捗管理×高品質
findy_eventslides
0
570
Featured
See All Featured
Fireside Chat
paigeccino
37
3.3k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
231
53k
Building Better People: How to give real-time feedback that sticks.
wjessup
367
19k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
102
18k
Music & Morning Musume
bryan
46
6.4k
Writing Fast Ruby
sferik
628
61k
Bootstrapping a Software Product
garrettdimon
PRO
307
110k
Automating Front-end Workflow
addyosmani
1369
200k
The Art of Programming - Codeland 2020
erikaheidi
53
13k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
22
2.6k
GraphQLとの向き合い方2022年版
quramy
45
14k
Transcript
生成 AI アプリケーションにおける RAG とデータベースの役割 2024/03/29 3-SHAKE SRETT#9 LT 株式会社スリーシェイク
Sreake事業部 小渕 周
© 2024 3-shake Inc. 2 自己紹介 - 2023年12月スリーシェイク入社 - Sreake
事業部 - アプリケーション開発支援チーム - 生成 AI アプリケーション開発等 - 日本生成 AI ユーザ会 - 4月5日(金)20:00〜 ハンズオン勉強会(オンライン) - https://genai-users.connpass.com/event/312195/ 小渕 周, Shu Kobuchi, こぶシュー (@shu_kob)
© 2024 3-shake Inc. 3 プログラミングを切り口とした生成 AI コンピュータに自然言語で命令ができるように! 第1世代 機械語 第2世代 アセンブラ
第3世代 高級言語(COBOL, Cなど) 第4世代 オブジェクト指向など 第5世代? 自然言語? コンピュータ プログラマ ソフトウェア エンジニア 非エンジニア 含む人間全般 Google Cloud Generative AI Summit Tokyo ‘24 デロイト トーマツ コンサルティング合同会社 吉沢 雄介 氏「業界課題 の解決に踏み込んだ生成 AI 活用事例:物流業界のコグニティブアシス タント」 P4. 図を参考に編集 https://cloudonair.withgoogle.com/events/generative-ai-summit-2 4q1/watch?talk=24-t3-session4 API エコノミー 新たなパラダイム 抽 象 度
© 2024 3-shake Inc. 4 RAG (Retrieval Augmented Generation) LLM
(Large Language Model:大規模言語モデル )が知らない情報を 外部から与えてあげて拡張する手法 - 質問に関連する情報を context に含める - 情報をベクトル化して蓄えておく ※ 以降、例としてGoogle Cloudでお話ししますが、他のパブリッククラウドでも同様です 質問 LLM Vertex AI Search (検索と会話) Cloud Storage GCPなら Gemini など Vertex AI
© 2024 3-shake Inc. 5 RAG のデータ設定方法 データストレージやデータベースから RAGにデータをインポート Cloud
Storage Vertex AI Search (検索と会話) BigQuery Cloud Storageで サポートしている データ形式 Preview機能 Google Drive Jiraなど 接続
© 2024 3-shake Inc. 6 会話履歴 会話の流れに沿った回答ができるようになったのが以前のチャットボットとの違い Firestore - JSON
で会話履歴を保持し、チャットで活用 - NoSQLのデータベースを使用 会話履歴 人 AI 人 AI ◯◯◯◯◯◯ △△△△△△ □□□□□□□□□□□ ▼▼▼▼▼▼ 質問 LLM
© 2024 3-shake Inc. 7 RAG アプリの構成図 パブリッククラウドのマネージドサービスを活用して、 RAG アプリ開発の工数は少なく!
RAG アプリは生成 AI PoC の第一歩 Cloud Run (Web App) Firestore Cloud Storage Vertex AI Vertex AI Search 会話履歴を取得 会話履歴を格納 ドキュメントを格納 Embedding で ベクトル化 context を取得
© 2024 3-shake Inc. 8 参考文献 - 田村悠 著『LangChain完全入門』インプレス -
吉田真吾, 大嶋勇樹 著『ChatGPT/LangChainによるチャットシステム構築[実践]入門』技術評論社 - 永田祥平, 伊藤駿汰, 宮田大士, 立脇裕太, 花ヶ﨑伸祐, 蒲生弘郷, 吉田真吾 著『Azure OpenAI Serviceではじめる ChatGPT/LLMシステム構築入門』技術評論社 - 小林雅一 著『生成AI「ChatGPT」を支える技術はどのようにビジネスをかえ、人間の創造性を揺るがすのか?』ダイヤモン ド社 - 今井翔太 著『生成AIで世界はこう変わる』SB新書 - 小澤健祐 著『生成AI導入の教科書』ONE PUBLISHING
© 2024 3-shake Inc. 9 ご清聴ありがとうございました 日本生成 AI ユーザ会にもぜひご参加ください! ・4月5日(金)
20:00〜 ハンズオン勉強会(オンライン) https://genai-users.connpass.com/event/312195/