Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Dify|基礎から最新アップデートまでをサラッと紹介
Search
Shota Totsuka
July 09, 2024
7
1.6k
Dify|基礎から最新アップデートまでをサラッと紹介
Shota Totsuka
July 09, 2024
Tweet
Share
More Decks by Shota Totsuka
See All by Shota Totsuka
自発的にActionする(っぽい)AI Agentを常に稼働させている話
totsukash
1
29
Bedrockのモデル評価
totsukash
3
300
Hugging Faceを使いこなして ローカルLLMを推論する
totsukash
3
830
gRPCとConnect
totsukash
1
280
Featured
See All Featured
Designing for humans not robots
tammielis
250
25k
Making the Leap to Tech Lead
cromwellryan
133
9k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
6.9k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
28
9.1k
Building Applications with DynamoDB
mza
91
6.1k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
2
290
Rebuilding a faster, lazier Slack
samanthasiow
79
8.7k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
Bootstrapping a Software Product
garrettdimon
PRO
305
110k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
95
17k
Code Reviewing Like a Champion
maltzj
521
39k
Writing Fast Ruby
sferik
628
61k
Transcript
Dify 基礎から最新アップデートまでをサラッと紹介 2024.07.10 戸塚 翔太
自己紹介 - 戸塚翔太(Blueish) - Go, Rust, Python - 生成AI, 機械学習
- 松尾研GENIAC開発メンバーとして参加 - 静岡県(浜松)に住んでます - 近くの方がいれば、一緒に勉強会しましょう - X: @totsumaru_dot
会社紹介 - 株式会社ブルーイッシュ - Go, Rust, 生成AIエンジニア等募集中 - 興味があれば覗いていただけると嬉しいです -
https://www.blueish.co.jp
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
LLMを使ったアプリを簡単に作成 - OSSのLLMアプリケーション開発プラットフォーム - 開発者が迅速に生成AIアプリケーションを構築できる - Backend-as-a-ServiceとLLMOpsの理念を融合 - ワークフローやチャットbotをノーコード(ローコード)で作成 -
モデル豊富(48時間以内に反映) 1. Difyとは Tips Difyという言葉は、Define + Modifyから来てお り、あなたのAIアプリケーションを定義し、継続的 に改良することを指します。それはあなたのために 作られたものです(Do it for you)。
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
チャットボット or API - 主にチャットUI(APIもあり) - チャットボット - チャットフロー -
エージェント - APIエンドポイント(バッチ処理等) - ワークフロー ※共通で使える機能も多くあります。 2. 全体像
2. 全体像 関係図
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
やろうと思えば大体何でもできる 3. Difyでできること 複雑なワークフローを組むことも可能 ただし、複雑にしたら...
ノード紹介 3. Difyでできること
ナレッジベース - テキストファイルなどをアップロードし、外部情報の参照が可能(RAG) - ベクトル検索・全文検索・ハイブリッド検索に対応 - Rerankにも対応 - Notionから同期 -
ウェブサイトから同期 ← new!! 3. Difyでできること
ツール - 外部サービスを簡単に使えるようにする機能 - ファーストパーティツール、カスタムツールの2 種類がある - Slackへメッセージ送信, Google検索, YouTubeから統計取得...etc
- OpenAPI / Swaggerスキーマの登録で、カスタムツールを使用できる 3. Difyでできること
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
自前ホスト or Difyクラウド - 自前ホスト(ローカル) - git clone → docker
composeですぐにlocalhostで起動 - AWS, VPSなど自分の好きな環境にホスト - バージョンアップ対応など管理+サーバーなどの利用料金は発生するが、Difyへ の直接課金は発生しない - Difyクラウド - Dify側で用意した環境ですぐに公開可能 - 各制限に応じて利用料金が発生 4. デプロイ・ホスティング
クラウド版料金 4. デプロイ・ホスティング
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Dify UI上でログを一覧表示 - チャット、APIどちらもDifyのUI上でログを確認 - 消費トークン数や応答までにかかった時間なども記録 - 期間の分析も可能 - トータルメッセージ数
- アクティブユーザー数 - トークン使用量 - 平均ユーザーインタラクション数 5. 評価・ログ
LangSmith, Langfuse統合 - v0.6.12(2024.06.28)から導入 - LangSmith: パフォーマンスの監視 - Langfuse: コスト管理,セキュリティの強化
※各サービスの詳細は各自ご確認下さい 5. 評価・ログ
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
v0.6.11 ~ v0.6.13 - v0.6.11(2024.06.15) - Webサイトから同期(Firecrawl)→ ナレッジ保存 - ワークフローにメモを追加
- 新モデル追加 …etc - v0.6.12(2024.06.28) - LangSmith, Langfuse統合 - Claude 3.5 Sonnetモデル追加 - その他機能強化 …etc - v0.6.13(2024.07.09) - パスワードリセット機能を追加 - NominatimによってLLMアプリケーションが地図データを処理可能に - AWS BedrockのClaude 3 tool use使用可能 …etc 6. 最近のアップデート
ご清聴ありがとうございました。