継続的なAIコスト最適化

めぐろLT #38 「社内のAI活用推進」@麻布台
https://meguro-lt.connpass.com/event/405077/

Transcript

1. めぐろLT #38｜社内のAI活用推進 継続的なAIコスト最適化 2026/10/09 - 田中篤志 @bgpat © 2026 Wantedly, Inc.
2. 自己紹介 Atsushi Tanaka @bgpat 所属 ウォンテッドリー株式会社 Infra Squad / AI Ops Squad 役職 インフラエンジニアのリーダーをしながら 全社のAI活⽤推進を兼務しています © 2026 Wantedly, Inc. 2
3. AI活用は、4つのステップで進めてきた STEP 1 STEP 2 一部エンジニアで検証 エンジニア全員で活用 © 2026 Wantedly, Inc. STEP 3 STEP 4 非エンジニアも含めて 全社で活用 コストパフォーマンスの 最適化
4. AI活⽤は進んだがコストが課題に コストが増えることは悪ではない。ROIに⾒合うよう最適化する。 © 2026 Wantedly, Inc.
5. どうやって最適化する？ AI活⽤による利益 = ROI コスト 利益を増やす or コストを減らす © 2026 Wantedly, Inc.
6. 利益はどうやって測る？ 利益 ＝ 改善した⽣産性？ エンジニアはコード量やPRの数で測れるかもしれない ⾮エンジニアはどうやって測る？ ウォンテッドリーでは AI による利益は 「各チームでしか判断できない」という結論に 材料を提供して各チームで判断してもらう © 2026 Wantedly, Inc.
7. コスト最適化の方針 利用者の意識を変える プロンプト最適化 無駄なシートを削減する コンテキストを適切に区切る 使っていないシートは減らす 同じ用途で使っているサービスは統一する 文脈を小さくしてトークンを減らす 精度も上がりやすい 使用量を見ながら使ってもらう 試行錯誤を最小限にする指示 クォータがある場合は残りを意識 意味もなく高いモデルを使わない 要件や期待を決めてから実行 何回も使う場合はスキルやワークフロー化 © 2026 Wantedly, Inc.
8. コスト分析の進め方 利用者の意識を変える プロンプト最適化 01 02 03 04 契約状況 モデルの使い方 トークンの使い方 指示の出し方 情報源 情報源 情報源 情報源 各サービスのメンバー 一覧と請求書 UsageをCSVで出力 OTelで取ったトレース UsageをCSVで出力 OTelで取ったトレース OTelで取ったトレース 実際のプロンプト 分析方法 分析方法 分析方法 分析方法 サービス横断の課金額 本当に使っていそうか 高いモデルの割合 古いモデルの使用状況 in/out, cache比率 session, token数 skill, toolの使用状況 AIに傾向分析させる © 2026 Wantedly, Inc.
9. 実際の運用 • ⽉2〜3回、分析結果を共有して各チームで⾒てもらう • 個⼈ごとにかかったコストと分析結果を共有 • 頻繁に分析を⾏うためスキル化 © 2026 Wantedly, Inc.
10. 実際の運用 • ⽉2〜3回、分析結果を共有して各チームで⾒てもらう • 個⼈ごとにかかったコストと分析結果を共有 • 頻繁に分析を⾏うためスキル化 © 2026 Wantedly, Inc.
11. 実際の運用 • ⽉2〜3回、分析結果を共有して各チームで⾒てもらう • 個⼈ごとにかかったコストと分析結果を共有 • 頻繁に分析を⾏うためスキル化 © 2026 Wantedly, Inc.
12. まとめ • AI活⽤が進んでコストに課題がシフト • AI導⼊効果の計測は難しいのでチームで判断 活⽤推進チームで判断材料を提供 ◦ AIコスト最適化の要素を分解 ▪ 利⽤者の意識を変える ▪ プロンプト最適化 ◦ 継続的な運⽤のため分析観点を整理しスキル化 結果として各⾃がROIを意識してAIを使える状態に © 2026 Wantedly, Inc.