Lock in $30 Savings on PRO—Offer Ends Soon! ⏳
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Dify|基礎から最新アップデートまでをサラッと紹介
Search
Shota Totsuka
July 09, 2024
7
1.6k
Dify|基礎から最新アップデートまでをサラッと紹介
Shota Totsuka
July 09, 2024
Tweet
Share
More Decks by Shota Totsuka
See All by Shota Totsuka
自発的にActionする(っぽい)AI Agentを常に稼働させている話
totsukash
1
29
Bedrockのモデル評価
totsukash
3
290
Hugging Faceを使いこなして ローカルLLMを推論する
totsukash
3
820
gRPCとConnect
totsukash
1
270
Featured
See All Featured
Gamification - CAS2011
davidbonilla
80
5k
Writing Fast Ruby
sferik
627
61k
Testing 201, or: Great Expectations
jmmastey
40
7.1k
Site-Speed That Sticks
csswizardry
0
110
How to Ace a Technical Interview
jacobian
276
23k
Measuring & Analyzing Core Web Vitals
bluesmoon
4
150
Fireside Chat
paigeccino
34
3k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
247
1.3M
The MySQL Ecosystem @ GitHub 2015
samlambert
250
12k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
4
400
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.3k
Statistics for Hackers
jakevdp
796
220k
Transcript
Dify 基礎から最新アップデートまでをサラッと紹介 2024.07.10 戸塚 翔太
自己紹介 - 戸塚翔太(Blueish) - Go, Rust, Python - 生成AI, 機械学習
- 松尾研GENIAC開発メンバーとして参加 - 静岡県(浜松)に住んでます - 近くの方がいれば、一緒に勉強会しましょう - X: @totsumaru_dot
会社紹介 - 株式会社ブルーイッシュ - Go, Rust, 生成AIエンジニア等募集中 - 興味があれば覗いていただけると嬉しいです -
https://www.blueish.co.jp
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
LLMを使ったアプリを簡単に作成 - OSSのLLMアプリケーション開発プラットフォーム - 開発者が迅速に生成AIアプリケーションを構築できる - Backend-as-a-ServiceとLLMOpsの理念を融合 - ワークフローやチャットbotをノーコード(ローコード)で作成 -
モデル豊富(48時間以内に反映) 1. Difyとは Tips Difyという言葉は、Define + Modifyから来てお り、あなたのAIアプリケーションを定義し、継続的 に改良することを指します。それはあなたのために 作られたものです(Do it for you)。
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
チャットボット or API - 主にチャットUI(APIもあり) - チャットボット - チャットフロー -
エージェント - APIエンドポイント(バッチ処理等) - ワークフロー ※共通で使える機能も多くあります。 2. 全体像
2. 全体像 関係図
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
やろうと思えば大体何でもできる 3. Difyでできること 複雑なワークフローを組むことも可能 ただし、複雑にしたら...
ノード紹介 3. Difyでできること
ナレッジベース - テキストファイルなどをアップロードし、外部情報の参照が可能(RAG) - ベクトル検索・全文検索・ハイブリッド検索に対応 - Rerankにも対応 - Notionから同期 -
ウェブサイトから同期 ← new!! 3. Difyでできること
ツール - 外部サービスを簡単に使えるようにする機能 - ファーストパーティツール、カスタムツールの2 種類がある - Slackへメッセージ送信, Google検索, YouTubeから統計取得...etc
- OpenAPI / Swaggerスキーマの登録で、カスタムツールを使用できる 3. Difyでできること
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
自前ホスト or Difyクラウド - 自前ホスト(ローカル) - git clone → docker
composeですぐにlocalhostで起動 - AWS, VPSなど自分の好きな環境にホスト - バージョンアップ対応など管理+サーバーなどの利用料金は発生するが、Difyへ の直接課金は発生しない - Difyクラウド - Dify側で用意した環境ですぐに公開可能 - 各制限に応じて利用料金が発生 4. デプロイ・ホスティング
クラウド版料金 4. デプロイ・ホスティング
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Dify UI上でログを一覧表示 - チャット、APIどちらもDifyのUI上でログを確認 - 消費トークン数や応答までにかかった時間なども記録 - 期間の分析も可能 - トータルメッセージ数
- アクティブユーザー数 - トークン使用量 - 平均ユーザーインタラクション数 5. 評価・ログ
LangSmith, Langfuse統合 - v0.6.12(2024.06.28)から導入 - LangSmith: パフォーマンスの監視 - Langfuse: コスト管理,セキュリティの強化
※各サービスの詳細は各自ご確認下さい 5. 評価・ログ
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
v0.6.11 ~ v0.6.13 - v0.6.11(2024.06.15) - Webサイトから同期(Firecrawl)→ ナレッジ保存 - ワークフローにメモを追加
- 新モデル追加 …etc - v0.6.12(2024.06.28) - LangSmith, Langfuse統合 - Claude 3.5 Sonnetモデル追加 - その他機能強化 …etc - v0.6.13(2024.07.09) - パスワードリセット機能を追加 - NominatimによってLLMアプリケーションが地図データを処理可能に - AWS BedrockのClaude 3 tool use使用可能 …etc 6. 最近のアップデート
ご清聴ありがとうございました。