FinOps for AI―生成AIのビジネス価値、見えていますか？

Transcript

1. ©Hitachi, Ltd. 2025. All rights reserved ―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 生成AIのビジネス価値、見えていますか？ 株式会社 日立製作所、シニアクラウドアーキテクト Hitachi Application Reliability Centers(HARC) Japan 兼 Hitachi OSPO 松沢 敏志 Date September 29, 2025
2. ©Hitachi, Ltd. 2025. All rights reserved 1 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ About Me Satoshi Matsuzawa (Matt) - Senior Cloud Architect of HARC*1 Japan & Hitachi OSPO*2, Hitachi - I Gemini, NotebookLM, and Gemini Cloud Assist. - Japan Google Cloud Usergroup for Enterprise(Jagu’e’r) Member - FinOps Foundation Japan Chapter Co-Organizer, and Co-Translator of “Cloud FinOps, 2nd Edition (JPN version)” - Ex- Open-Source Software Engineer (e.g. Linux, Kubernetes, etc.) in/satoshi-matsuzawa @chacco38 *1: Hitachi Application Reliability Centers *2: Open-Source Program Office Top3: #Cloud #SRE #FinOps
3. ©Hitachi, Ltd. 2025. All rights reserved 2 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 今日、話すこと 生成AIのビジネスへの適用に向けて、ほとんどの企業が「スピード」や「品質」に注力するという中、 グローバル企業の多くが導入をはじめている新たな取り組みについて紹介します！ FinOps for AI AI for FinOps & 品質 関心 右図のようになるのは仕方ないけど、のちのちコスト面で“痛恨の一撃“を もらわないようにやるべきことはしっかりやりましょう、っていう話
4. ©Hitachi, Ltd. 2025. All rights reserved 3 FinOpsの概要と市場トレンド
5. ©Hitachi, Ltd. 2025. All rights reserved 4 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ FinOpsの概要と市場トレンド FinOpsとは何か、なぜ必要なのか クラウドの利用を通じて、最大のビジネス価値を得るための考え方や手法、組織文化の総称 FinOps = 財務(Finance) × DevOps 引用：『クラウドFinOps 第2版』、図2-2 組織は、クラウドによるビジネス価値の向上によって 正当化される限り、FinOpsへの投資を継続すべき、p.25 クラウドの初期導入 (リフト&シフトなどによる 技術負債の作り込み) クラウドの利用拡大に伴う 技術負債の顕在化 ⇒FinOpsの導入 最適化/モダナイゼーション による技術負債の解消 組織全体で継続的に改善 して組織文化として定着 クラウドを使い続ける限り、その道の先でいずれはFinOpsの導入につながる
6. ©Hitachi, Ltd. 2025. All rights reserved 5 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ FinOpsの概要と市場トレンド FinOpsの取り組みをうまく機能させるために必要な要素 出典: FinOpsに必要な要素 by Hitachi
7. ©Hitachi, Ltd. 2025. All rights reserved 6 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ FinOpsの概要と市場トレンド FinOpsに取り組む上で参考にすべきリソース 出典: FinOps Framework Overview by FinOps Foundation 出典: クラウドFinOps 第2版 by O’Reilly Japan FinOpsフレームワークについては 書籍の中でも触れられています
8. ©Hitachi, Ltd. 2025. All rights reserved 7 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ FinOpsの概要と市場トレンド FinOpsの成功体験を「クラウドの枠を超えた範囲」にも適用する企業が急速に拡大中 出典: The State of FinOps by FinOps Foundation クラウドの枠を超えた範囲へのFinOpsの適用状況 (2025年) クラウドの枠を超えた範囲において現在注力しているFinOpsの活動 (2025年) FinOps for これらの活動は その中でもFinOps業界で今一番ホットなトピックが「FinOps for AI」です!! と呼ばれ、 出典: The State of FinOps by FinOps Foundation
9. ©Hitachi, Ltd. 2025. All rights reserved 8 FinOps for AI：支出を戦略的な投資に変える
10. ©Hitachi, Ltd. 2025. All rights reserved 9 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ なぜ今、FinOps for AIが注目を浴びているのか 出典: FinOps X 2025 Day 2 Keynote by FinOps Foundation グローバル市場におけるクラウドと生成AIへの支出トレンド 理由1. 2022年のChatGPTの登場以来、生成AI支出が爆発的に増加し続けていること
11. ©Hitachi, Ltd. 2025. All rights reserved 10 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ なぜ今、FinOps for AIが注目を浴びているのか 理由2. 組織における生成AIに対する関心が、スピードと品質に非常に片寄っていること 品質 関心 経験豊富なFinOps実践者たち：「完全に、クラウドの時の再来やんっ!!!」
12. ©Hitachi, Ltd. 2025. All rights reserved 11 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ スピードと品質に重視する判断自体は間違いではない 出典: Cost-Aware Product Decisions by FinOps Foundation コストに焦点を当てる時期を早くすればより高い効果を実現できる 優先度が低いからと支出効率を計測もせず単純に無視する (=何もしない)のではなく、計測はした上で「情報に基づく意図的な無視」からはじめることが重要 ”たとえ積極的なFinOpsの運用を実施する時間やリソースが なかったとしても、クラウド支出の割り当て、追跡、予測の実践を 今すぐ始めて、必要なときに最適化できるようにしましょう。 ―引用：『クラウドFinOps 第2版』、2.3.1 情報に基づく意図的な無視：なぜ今始めるのか？、p.28 • 運用フェーズ：サービスを中断することなく最適化するには限界がある • 構築フェーズ：設計の大幅な変更を伴わない範囲の最適化であれば対応できる • 設計フェーズ：費用対効果の高いアーキテクチャー、サービスの選択から最適化できる 引用：『クラウドFinOps 第2版』、図11-2 支出の成長と主要なイベント、p.178 加えて、生成AIアプリケーションの構成要素と、どこに最適化できるポイントがあるかを知っておくことも重要
13. ©Hitachi, Ltd. 2025. All rights reserved 12 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 生成AIアプリケーションの基本知識 ― 構成要素 超基本の生成AIアプリケーション 出典: FinOps X 2025 Day 2 Keynote by FinOps Foundation
14. ©Hitachi, Ltd. 2025. All rights reserved 13 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 生成AIアプリケーションの基本知識 ― 構成要素 出典: FinOps X 2025 Day 2 Keynote by FinOps Foundation もちろん独自のAIモデルを使いたくなるケースもあるでしょう
15. ©Hitachi, Ltd. 2025. All rights reserved 14 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 生成AIアプリケーションの基本知識 ― 構成要素 出典: FinOps X 2025 Day 2 Keynote by FinOps Foundation アプリケーションを動かす環境やグラウンディングに利用するデータ格納用ストレージなどの インフラ層は、クラウド環境やオンプレミス環境などのさまざまな選択肢がある ⇒クラウドであれば請求情報に細かい情報が入っているためどこに支出したかがわかりやすい
16. ©Hitachi, Ltd. 2025. All rights reserved 15 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 生成AIアプリケーションの基本知識 ― 最適化ポイント 出典: FinOps X 2025 Day 2 Keynote by FinOps Foundation インフラ層は一般的なクラウド利用時と同じ考え方が通用し、 コンピューティング、ネットワーク、ストレージなどさまざまな箇所に最適化のポイントがある
17. ©Hitachi, Ltd. 2025. All rights reserved 16 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 生成AIアプリケーションの基本知識 ― 最適化ポイント 出典: FinOps X 2025 Day 2 Keynote by FinOps Foundation さらに、生成AIアプリケーションならではのポイントとして、モデル選択、プロンプトチューニング、キャッシュなどもある 生成AIワークロードのコスト最適化に有用なホワイトペーパーが公開されているため、ぜひ目を通していただくと良いでしょう！ https://www.finops.org/wg/optimizing-genai-usage/
18. ©Hitachi, Ltd. 2025. All rights reserved 17 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 生成AIアプリケーションのコスト最適化事例 出典: FinOps X 2025 Day 2 Keynote by FinOps Foundation 事例：欧米EC企業で大量の画像ファイルの解析に生成AIを利用 ✓ 使用用途と求める品質レベルにあわせて、最適なモデルを選択するべし ✓ 最新世代のモデルの方が、コスト効率が大幅に改善できる傾向にあるため、 新世代のモデルがでたらしっかり評価してなるべく早めに取り込めるように備えるべし
19. ©Hitachi, Ltd. 2025. All rights reserved 18 AI for FinOps：AIでFinOpsを加速させる
20. ©Hitachi, Ltd. 2025. All rights reserved 19 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ おさらい、FinOpsライフサイクル FinOpsはInform、Optimize、Operateの3つのフェーズを意識して、 小さな反復ループを通じて継続的に改善を行っていくことが重要である 出典: FinOps Phases by FinOps Foundation Informフェーズ コストや使用量の可視化と 各チームへの割り当てを行う Optimizeフェーズ 使用量と料金の最適化の 機会の特定を行う 主な実施項目： • データソースの特定 • データをタイムリーに収集し、予算編成、予 測、KPI設定、ビジネス価値算出など実施 • タグ付けによるコスト配賦、など 1 主な実施項目： • Informフェーズのデータを基に、クラウドの効率改 善機会（リソースの適正化、新世代化、未使用 リソース削除など）を特定 • コミットメントベース割引の検討、など Operateフェーズ 継続的な改善の実行 主な実施項目： • Optimizeフェーズで検討した改善機会の実装 • ガバナンスポリシー確立、コンプライアンスの監視、 トレーニングプログラムやガイドライン策定、など 2 3
21. ©Hitachi, Ltd. 2025. All rights reserved 20 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ おすすめ機能#1 ― Gemini Cloud Assist for FinOps Cloud Billingの「レポート」や「FinOpsハブ」画面のデータ認知負荷を大幅に軽減する生成AI機能 支出トレンドの分析 支出要因の特定 支出の異常検出 最適化機会の分析 可視化データからサマリを作成したり、 チャットベースでのやり取りを通じて、 詳しい洞察を得るといったことができる
22. ©Hitachi, Ltd. 2025. All rights reserved 21 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ おすすめ機能#2 ― Active Assist AIを活用してリソース利用状況分析を行い、コスト最適化などに関する推奨事項を提案する機能 最適化機会の特定 節約金額の算出 推奨事項の適用 適用/拒否の履歴一覧や 累計節約金額の管理*1 稼働統計より適正なVMスペックや アイドル状態のリソース削除などの 提案をしてくれる *1: 90日を超える履歴を保存する場合はBigQueryへのエクスポートが必要
23. ©Hitachi, Ltd. 2025. All rights reserved 22 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ おすすめ機能#3 ― FinOpsハブ Active Assistなどの各機能が提供する推奨事項を集約し、次に取る行動の決定を支援する機能 得られた削減効果の把握 残りの節約可能額の把握 効果の高い施策の特定 FinOpsの成熟度をスコア化、 業界比較や改善提案の提供 ラベル付けやコスト異常アラート設定など 直接的なコスト削減にはならないけど、 重要な施策についても提案してくれる
24. ©Hitachi, Ltd. 2025. All rights reserved 23 最後に：AI投資を成功させるために
25. ©Hitachi, Ltd. 2025. All rights reserved 24 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 今日、伝えたかったこと 1. 2. 3. 4. FinOpsの取り組みは生成AIにも必要不可欠で、多くのグローバル企業がすでに 取り組みを開始している 現時点では、この分野においてスピードや品質を重視する判断自体は間違いで はないものの、最低限のこと(次スライド参照)はやっておこう 生成AIの最適化ポイントはいくつかあるものの、とくにモデル選択は重要なポイン トで、一般的に新しいモデルの方が効率がいいため、しっかり評価して早めに取り 込めるように備えよう Google Cloudには、FinOpsの取り組みを支援するクールなAI機能があるので積 極的に活用し、Google Cloudをスマートに使いこなそう
26. ©Hitachi, Ltd. 2025. All rights reserved 25 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ スピードと品質を重視する中でもやるべきこと 優先度の高い活動 1. 配賦 2. データ取り込み 3. レポートと分析 4. 異常管理 5. FinOpsツールとサービス 6. 計画と見積もり 7. 予測 8. 予算編成 9. 料金最適化 10. ワークロードの最適化 … 出典: FinOps Framework Overview by FinOps Foundation 使用量とコストの理解
27. ©Hitachi, Ltd. 2025. All rights reserved 26 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 自力でやり切れるか不安を感じる場合はぜひ気軽にご相談ください 継続的な改善を通じたクラウド運用の成熟度向上を伴走型で支援 Hitachi Application Reliability Centers(HARC)では、エベレスト登山を伴走型で支援 するシェルパのように日立のエキスパート人財がお客さまに寄り添って、クラウド運用に関する さまざまな課題を一緒に乗り越えながら、クラウド活用によるスピード、品質、価値を最大 限に引き出せる組織への変革をサポートします。 HARCの詳細はこちら >>> https://www.hitachi.co.jp/harc/
29. ©Hitachi, Ltd. 2025. All rights reserved 28 Hitachi | 生成AIのビジネス価値、見えていますか？―Google Cloudテクノロジーの単なるクールな使用から一歩先へ 表記に関する注意事項 他社商品名、商標などの引用に関する表示 ‐ Google、Google Cloud は，Google LLC の商標または登録商標です。 ‐ その他記載の会社名、製品名は、それぞれの会社の商標または登録商標です。