何ができる？OCI × Dify

2025年5月23日（金）に開催された Developer Day 2025 の [LT3-3] 何ができる？OCI × Dify の登壇資料です。

Transcript

1. 何ができる？OCI × Dify Haruki Morita Solutions Architect, Utility Solutions Oracle Corporation Japan May 23, 2025
2. 森田 暖己 (Haruki Morita) 日本オラクル株式会社 通信・公益ソリューション本部 アソシエイト・ソリューション・アーキテクト 2 Copyright © 2025, Oracle and/or its affiliates • 公益業界(電力・ガス)、通信のお客様を担当 • オラクル歴: 2年 • 趣味: サッカー観戦やラジオなど… @hamorita
3. Agenda Copyright © 2025, Oracle and/or its affiliates 3 3 ユースケース 2 Difyで使える OCIのソリュー ション 4 課題 1 そもそもDifyと は何か？
4. そもそもDifyとは何か？ 4 Copyright © 2025, Oracle and/or its affiliates
5. 1. そもそもDifyとは何か？ 1.1. Difyについて OSSで簡単にAIアプリケーションを作成できるプラットフォーム • ノーコード • チャットボット • エージェント • ワークフロー • APIとしての呼び出し • OpenAI、GeminiなどさまざまなLLMの利用 • 選べる利用プラン • クラウド版とコミュニティ版 • コミュニティ版ではローカルの環境にデプロイでき、自由度増 • 無償利用からスタート 5 Copyright © 2025, Oracle and/or its affiliates
6. ナレッジベース 1. そもそもDifyとは何か？ 1.2. Difyのコンポーネント 6 Copyright © 2025, Oracle and/or its affiliates ユーザー LLM ファイル (PDF、CSVなど) AI アプリケーション Slack ①質問 ⑥回答 ②問い合わせ ③検索結果 ④回答生成指示 ⑤回答の生成 ベクトル データベース
7. Difyで使えるOCIのソリューション 7 Copyright © 2025, Oracle and/or its affiliates
8. ナレッジベース 2. Difyで使えるOCIのソリューション 2.1. 構成図 8 Copyright © 2025, Oracle and/or its affiliates ユーザー OCI Generative AI Service AI アプリケーション Slack ①質問 ⑥回答 ②問い合わせ ③検索結果 ④回答生成指示 ⑤回答の生成 オブジェクト ストレージ Oracle Autonomous Database
9. 2. Difyで使えるOCIのソリューション 2.2. OCI Generative AI Service 高性能のLLMをフルマネージドで提供 • Cohere社とMeta社のモデルをフルマネージドのPaaSとして提供 • 2024年11月から大阪リージョンで使用可能に デフォルトで保護されたセキュリティとプライバシー • 出入力データはOCI Generative AI Service内に格納されない • プロンプトや応答、学習データはモデルプロバイダーに共有されない オンデマンドと専用AIクラスタの2つの提供形態 • APIの従量課金でスモールスタートできるオンデマンド • 占有環境で安定したパフォーマンスとセキュリティが担保された専用AIクラスタの2つの提供形態 9 Copyright © 2025, Oracle and/or its affiliates
10. 2. Difyで使えるOCIのソリューション 2.3. Oracle Autonomous Database フルマネージドでクラウドネイティブなOracle Database • AI /機械学習を利用した完全自動運用 • ワークロードに応じたオートスケールが可能 • コンバージドデータベース Select AI • LLMを利用して、自然言語のプロンプトからSQLを生成、実行 Select AI with RAG • Select AIにRAGを組み合わせた機能 • クラウド・ストレージ上のファイルからベクトル・ストアおよびベクトル索引を作成するプロセスを自動化 • 入力された自然言語のプロンプトからベクトル埋め込みを生成し、ベクトル検索を実行 ベクトル検索の実行結果を使用して入力された自然言語のプロンプトを補強し、LLMが問合せを実行 10 Copyright © 2025, Oracle and/or its affiliates
11. ユースケース 11 Copyright © 2025, Oracle and/or its affiliates
12. 3. ユースケース 想定されるユースケース • 簡単なチャットボットやエージェント、議事録作成や要約など • データベースやストレージ内のデータの検索 • Select AIやSelect AI with RAGの活用 12 Copyright © 2025, Oracle and/or its affiliates ユーザー アプリケーション Autonomous Database オブジェクト ストレージ xx.csv xx.txt Embedding モデル AIプロバイダ テキスト生成 モデル AIプロバイダ 質問 回答 入力データ (ファイル) プロンプトの チャンクを送信 ベクトル埋め込みを 返す 生成された 結果を返す ベクトル検索結果によって 拡張されたプロンプトを送信 ベクトル索引を検索し Top-Kのベクトル検索結果を返す
13. 課題 13 Copyright © 2025, Oracle and/or its affiliates
14. 4. 課題 • OCI Generative AI Serviceで提供しているモデルの廃止および追加への対応 • オンデマンドで利用する場合は、代替モデルのリリースから最短1か月後にモデルが廃止されてしまう • 定期的に新しいモデルもリリースされている • Difyの画面上は廃止済みのモデルが選択できたり、新しいモデルが選択できないことも… • DifyでのOCI活用の拡充に関して • 今後のモデルの廃止や追加等に対応するためには何かしらの枠組みが必要 • 他社クラウドではマーケットプレイスからDifyの利用が可能になるなど、協業が進んでいる状態 14 Copyright © 2025, Oracle and/or its affiliates