Difyセルフホスト運用10ヶ月の振り返り_現場主導での業務効率化と_それを支える運用の舞台裏.pdf

Transcript

1. Difyセルフホスト運用10ヶ月の振り返り。 現場主導での業務効率化と、 それを支える運用の舞台裏 杉浦 光将(@saba_can00)
2. © Uzabase, Inc. 2 社名 設⽴ 従業員数 代表者 所在地 事業内容 株式会社ユーザベース 2008年4⽉ 1119名（2025年12⽉31⽇時点） 代表取締役CEO 稲垣 裕介 東京都千代⽥区丸の内2-5-2 三菱ビル 企業活動の意思決定を⽀える情報インフラの提供 Company Profile ※連結⼦会社含む∕正社員‧契約社員を含む。アルバイトを除く
3. © Uzabase, Inc. 3 経営のスピードを上げる 情報プラットフォーム 国内最⼤級の ソーシャル経済メディア ユーザベースは、2008年の創業より築き上げてきた経済情報基盤を活⽤して、経営のスピードを上げる 情報プラットフォーム「スピーダ」、国内最⼤級のソーシャル経済メディア「NewsPicks」のほか、 北⽶、中国、東南アジアでビジネスを展開 事業紹介
4. © Uzabase, Inc. 4 今日、お伝えしたいこと • Dify導⼊時にどのような意思決定をしたか • セルフホスト運⽤のリアル • 全社展開をしてみての課題と学び
5. © Uzabase, Inc. 「Dify」を「セルフホスト」した背景 どのようにDifyを運用しているか？ 運用してみての課題と学び 実際に10ヶ月運用してみてのふりかえり 01 02 03 04 5
6. 01 | 「Dify」を「セルフホスト」した背景
7. © Uzabase, Inc. 「Dify」を「セルフホスト」した背景 導入の背景 きっかけは、 「全社でAIを活用して、売上高人件費率を 下げる」というミッションでした。 まずはさまざまなツールを触って、試して いこうというフェーズで次のようなツールを 試しました。 7 [検討したツール] • Claude • ChatGPT • Gemini • Dify • Notion AI ※ このタイミングではn8nは検討に上がらずでした。
8. © Uzabase, Inc. 「Dify」を「セルフホスト」した背景 なぜDifyか？ LLM関係のツールは進化が早く、当時の時点で何が正解かはわからなかったもの の、Difyを導入する際には以下をメリットに感じました • OSSになっている透明性と拡張性 • LLMとナレッジを組み合わせたワークフローをローコードで作れる • ワークフローのAPI呼び出しが可能 8
9. © Uzabase, Inc. 「Dify」を「セルフホスト」した背景 なぜ、セルフホストなのか？？ スピーディーにかつ、興味をもってくれたメンバーには気軽に試してもらえるような状 態をまず作りたいというのが大きかった 9 データ すでに利用実績がある AWSにデプロイすること でデータアクセスの統制 と柔軟性を担保 コスト インフラ費用 + LLMの API費用 の最低限のコストから 始めた 人員 社内にプロダクトの開発 経験もある エンジニアがいる
10. 02 | どのようにDifyを運用しているか？
11. © Uzabase, Inc. どのようにDifyを運用しているか？ インフラ構成 11 AWSのDify用のテンプレート を参考にCDKでデプロイ OktaでALBからルーティング する際に認証をしています。
12. © Uzabase, Inc. 運用体制 12 他の業務と兼務しながら、10%くらいの工数でエンジニア3名で運用しました。 主な業務 • ユーザーからの質問対応 • アカウント管理 (基本的にはEditor権限を付与) • プラグイン/モデルの設定 • インフラのメンテナンス • バージョンアップ対応 • Difyを活用するための社内の研修 (希望に応じて) どのようにDifyを運用しているか？
13. 03 | 運用してみての課題と学び
14. © Uzabase, Inc. 運用してわかった課題 14 ワークスペースが1つという制限が厳しい バージョンアップ対応が大変 コスト管理の大切さ 01 02 03
15. © Uzabase, Inc. 運用してわかった課題 ワークスペースが1つという制限が厳しい 15 Community版の縛りですが、1環境に対して、ワークスペースが 1つしか利用できません このワークスペースをベースに権限が構成されているので、 1つだと不都合が多いです ワークスペース関連する設定 • ワークフローの設定権限 • LLMモデルのAPI Key • プラグインの認証の設定
16. © Uzabase, Inc. 運用してわかった課題 ワークスペースが1つという制限が厳しい 16 Community版の縛りですが、1環境に対して、ワークスペースが 1つしか利用できません このワークスペースをベースに権限が構成されているので、 1つだと不都合が多いです ワークスペース関連する設定 • ワークフローの設定権限 • LLMモデルのAPI Key • プラグインの認証の設定 「ワークフローがEditor権限を持 つ全員にみれる」 という状態になっていた
17. © Uzabase, Inc. 17 「ワークフローがEditor権限を持 つ全員にみれる」 という状態になっていた ⇨ 自分の作成したワークフロー しか閲覧できないように改変 ワークスペースが1つという制限が厳しい Community版の縛りですが、1環境に対して、ワークスペースが 1つしか利用できません このワークスペースをベースに権限が構成されているので、 1つだと不都合が多いです ワークスペース関連する設定 • ワークフローの設定権限 • LLMモデルのAPI Key • プラグインの認証の設定 運用してわかった課題
18. © Uzabase, Inc. 18 ワークスペース関連する設定 • ワークフローの設定権限 • LLMモデルのAPI Key • プラグインの認証の設定 API Keyを1つに制限する必要が あり、柔軟な管理ができない 運用してわかった課題 ワークスペースが1つという制限が厳しい Community版の縛りですが、1環境に対して、ワークスペースが 1つしか利用できません このワークスペースをベースに権限が構成されているので、 1つだと不都合が多いです
19. © Uzabase, Inc. 19 API Keyを1つに制限する必要が あり、柔軟な管理ができない ⇨ 全社向け基盤ということで初 期はまとめて、利用が多い場合 は予算の振替えで対応 ワークスペース関連する設定 • ワークフローの設定権限 • LLMモデルのAPI Key • プラグインの認証の設定 運用してわかった課題 ワークスペースが1つという制限が厳しい Community版の縛りですが、1環境に対して、ワークスペースが 1つしか利用できません このワークスペースをベースに権限が構成されているので、 1つだと不都合が多いです
20. © Uzabase, Inc. 20 プラグインの認証もワークスペー スで共有のため、Notionなどの 活用が難しい 運用してわかった課題 ワークスペース関連する設定 • ワークフローの設定権限 • LLMモデルのAPI Key • プラグインの認証の設定 ワークスペースが1つという制限が厳しい Community版の縛りですが、1環境に対して、ワークスペースが 1つしか利用できません このワークスペースをベースに権限が構成されているので、 1つだと不都合が多いです
21. © Uzabase, Inc. 21 プラグインの認証もワークスペー スで共有のため、Notionなどの 活用が難しい ⇨ 共通のアカウントを用意して、プ ライベートなページは閲覧しな い 運用してわかった課題 ワークスペース関連する設定 • ワークフローの設定権限 • LLMモデルのAPI Key • プラグインの認証の設定 ワークスペースが1つという制限が厳しい Community版の縛りですが、1環境に対して、ワークスペースが 1つしか利用できません このワークスペースをベースに権限が構成されているので、 1つだと不都合が多いです
22. © Uzabase, Inc. バージョンアップ対応が大変 22 Difyは良くも悪くも枯れていないので、バージョンアップの変更が激しい対応が大変 またLLMのモデルのアップデートもキャッチアップが必要 22 独自のコード改変との conflictが大変 インフラ構成もちょこちょこ 変わる LLMのアップデートに合 わせて、プラグインをアッ プデートが必要 運用してわかった課題
23. © Uzabase, Inc. コスト管理の大切さ 23 23 現場のユーザーの活用が進むなかで、 LLMのAPI Keyの利用量が爆発的に 増えるケースがありました 利用用途をうかがってみると、コストパ フォーマンスに見合わないケースもあ り、ワークフローで利用するトークン・実 行回数のモニタリングをするようにしま した 運用してわかった課題
24. © Uzabase, Inc. 実際に10ヶ月運用してみてのふりかえり 効果は出たのか？ 24 24 Difyのユーザーは2026/1月現在、全社で200名程度(約1/6のメンバー)です 実際に業務削減できているワークフローは限定的ですが、特に効果が出ている部署では 50 〜 90%の業務時間削減できているケースも生まれています
25. © Uzabase, Inc. 実際に10ヶ月運用してみてのふりかえり よく活用されているユースケース 25 25 • GASからの呼び出し • Zapierからの呼び出し のパターンは社内でもパターンがシェアされているので 情報の自動収集 加工 例: GASからの呼び出しのパターン
26. © Uzabase, Inc. 実際に10ヶ月運用してみてのふりかえり よく活用されているユースケース 26 26 社内でよく利用されているユースケース • pdfからのテキスト抽出 (簡易的なOCR) • 商談の文字起こしをベースにした FB • 調べたい情報をベースにWeb検索し、情報を入力・通知
27. © Uzabase, Inc. 実際に10ヶ月運用してみてのふりかえり まとめ 27 27 エンジニアやIT部門以外の現場のメンバーが自分たちの業務をどのように効率化しようかと考え て、実際にツールを作成して業務を効率化するという事例がいろいろとうまれたのは「まず、試して みる」というスタンスがよかったと思っています 最近はDifyも機能が増えてきて、これまでの課題も一部は解消されていますが、まだまだ課題は あるので常に最新の情報をキャッチアップしてツールの運用も最適な形を考えていきたいです 最後に、OSSでセルフホストの選択肢を提供してくださった、 LangGeniusの方々には感謝を申し 上げます