Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
何ができる?OCI × Dify
Search
oracle4engineer
PRO
May 23, 2025
2
37
何ができる?OCI × Dify
2025年5月23日(金)に開催された Developer Day 2025 の [LT3-3] 何ができる?OCI × Dify の登壇資料です。
oracle4engineer
PRO
May 23, 2025
Tweet
Share
More Decks by oracle4engineer
See All by oracle4engineer
Zero Data Loss Autonomous Recovery Service サービス概要
oracle4engineer
PRO
2
7.2k
[自動バックアップのコスト比較]リカバリ・サービス (RCV/ZRCV) とオブジェクト・ストレージ
oracle4engineer
PRO
4
4.5k
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
8
65k
【Oracle Cloud ウェビナー】【BIツールとAIの融合が加速中!!】生成AIと連携するOracle Analytics AIアシスタントなどのご紹介
oracle4engineer
PRO
1
93
Oracle Database オプティマイザ・ヒントの活用
oracle4engineer
PRO
1
150
超簡単!RAGアプリケーション構築術
oracle4engineer
PRO
0
120
Oracle Cloud Infrastructure:2025年5月度サービス・アップデート
oracle4engineer
PRO
0
400
OKE クラスタアップデート - オンデマンドノードサイクル -
oracle4engineer
PRO
2
92
OCI Kubernetes Engine (OKE) で実現する超スケーラブルなAIプラットフォーム
oracle4engineer
PRO
1
81
Featured
See All Featured
Unsuck your backbone
ammeep
671
58k
A better future with KSS
kneath
239
17k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.5k
Producing Creativity
orderedlist
PRO
346
40k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.6k
Intergalactic Javascript Robots from Outer Space
tanoku
271
27k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
137
34k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
34
2.3k
Git: the NoSQL Database
bkeepers
PRO
430
65k
The World Runs on Bad Software
bkeepers
PRO
68
11k
Designing for Performance
lara
608
69k
It's Worth the Effort
3n
184
28k
Transcript
何ができる?OCI × Dify Haruki Morita Solutions Architect, Utility Solutions Oracle
Corporation Japan May 23, 2025
森田 暖己 (Haruki Morita) 日本オラクル株式会社 通信・公益ソリューション本部 アソシエイト・ソリューション・アーキテクト 2 Copyright ©
2025, Oracle and/or its affiliates • 公益業界(電力・ガス)、通信のお客様を担当 • オラクル歴: 2年 • 趣味: サッカー観戦やラジオなど… @hamorita
Agenda Copyright © 2025, Oracle and/or its affiliates 3 3
ユースケース 2 Difyで使える OCIのソリュー ション 4 課題 1 そもそもDifyと は何か?
そもそもDifyとは何か? 4 Copyright © 2025, Oracle and/or its affiliates
1. そもそもDifyとは何か? 1.1. Difyについて OSSで簡単にAIアプリケーションを作成できるプラットフォーム • ノーコード • チャットボット •
エージェント • ワークフロー • APIとしての呼び出し • OpenAI、GeminiなどさまざまなLLMの利用 • 選べる利用プラン • クラウド版とコミュニティ版 • コミュニティ版ではローカルの環境にデプロイでき、自由度増 • 無償利用からスタート 5 Copyright © 2025, Oracle and/or its affiliates
ナレッジベース 1. そもそもDifyとは何か? 1.2. Difyのコンポーネント 6 Copyright © 2025, Oracle
and/or its affiliates ユーザー LLM ファイル (PDF、CSVなど) AI アプリケーション Slack ①質問 ⑥回答 ②問い合わせ ③検索結果 ④回答生成指示 ⑤回答の生成 ベクトル データベース
Difyで使えるOCIのソリューション 7 Copyright © 2025, Oracle and/or its affiliates
ナレッジベース 2. Difyで使えるOCIのソリューション 2.1. 構成図 8 Copyright © 2025, Oracle
and/or its affiliates ユーザー OCI Generative AI Service AI アプリケーション Slack ①質問 ⑥回答 ②問い合わせ ③検索結果 ④回答生成指示 ⑤回答の生成 オブジェクト ストレージ Oracle Autonomous Database
2. Difyで使えるOCIのソリューション 2.2. OCI Generative AI Service 高性能のLLMをフルマネージドで提供 • Cohere社とMeta社のモデルをフルマネージドのPaaSとして提供
• 2024年11月から大阪リージョンで使用可能に デフォルトで保護されたセキュリティとプライバシー • 出入力データはOCI Generative AI Service内に格納されない • プロンプトや応答、学習データはモデルプロバイダーに共有されない オンデマンドと専用AIクラスタの2つの提供形態 • APIの従量課金でスモールスタートできるオンデマンド • 占有環境で安定したパフォーマンスとセキュリティが担保された専用AIクラスタの2つの提供形態 9 Copyright © 2025, Oracle and/or its affiliates
2. Difyで使えるOCIのソリューション 2.3. Oracle Autonomous Database フルマネージドでクラウドネイティブなOracle Database • AI
/機械学習を利用した完全自動運用 • ワークロードに応じたオートスケールが可能 • コンバージドデータベース Select AI • LLMを利用して、自然言語のプロンプトからSQLを生成、実行 Select AI with RAG • Select AIにRAGを組み合わせた機能 • クラウド・ストレージ上のファイルからベクトル・ストアおよびベクトル索引を作成するプロセスを自動化 • 入力された自然言語のプロンプトからベクトル埋め込みを生成し、ベクトル検索を実行 ベクトル検索の実行結果を使用して入力された自然言語のプロンプトを補強し、LLMが問合せを実行 10 Copyright © 2025, Oracle and/or its affiliates
ユースケース 11 Copyright © 2025, Oracle and/or its affiliates
3. ユースケース 想定されるユースケース • 簡単なチャットボットやエージェント、議事録作成や要約など • データベースやストレージ内のデータの検索 • Select AIやSelect
AI with RAGの活用 12 Copyright © 2025, Oracle and/or its affiliates ユーザー アプリケーション Autonomous Database オブジェクト ストレージ xx.csv xx.txt Embedding モデル AIプロバイダ テキスト生成 モデル AIプロバイダ 質問 回答 入力データ (ファイル) プロンプトの チャンクを送信 ベクトル埋め込みを 返す 生成された 結果を返す ベクトル検索結果によって 拡張されたプロンプトを送信 ベクトル索引を検索し Top-Kのベクトル検索結果を返す
課題 13 Copyright © 2025, Oracle and/or its affiliates
4. 課題 • OCI Generative AI Serviceで提供しているモデルの廃止および追加への対応 • オンデマンドで利用する場合は、代替モデルのリリースから最短1か月後にモデルが廃止されてしまう •
定期的に新しいモデルもリリースされている • Difyの画面上は廃止済みのモデルが選択できたり、新しいモデルが選択できないことも… • DifyでのOCI活用の拡充に関して • 今後のモデルの廃止や追加等に対応するためには何かしらの枠組みが必要 • 他社クラウドではマーケットプレイスからDifyの利用が可能になるなど、協業が進んでいる状態 14 Copyright © 2025, Oracle and/or its affiliates
None