Upgrade to Pro — share decks privately, control downloads, hide ads and more …

実践AIガバナンス

 実践AIガバナンス

Jagu'e'r 協賛 AIガバナンス導入最前線 2025 の登壇資料です
https://women-ml.connpass.com/event/345960/

Avatar for Asei Sugiyama

Asei Sugiyama

August 29, 2025
Tweet

More Decks by Asei Sugiyama

Other Decks in Technology

Transcript

  1. 自己紹介 杉山 阿聖 (@K_Ryuichirou) Software Engineer @ Citadel AI Google

    Developer Expert @ Cloud AI MLSE GenAIOps WG 機械学習図鑑 共著 事例でわかる MLOps 共著
  2. 出版物・ガイドラインにおける AI ガバナンス AI ガバナンスとは 代表的なガイドライン・出版物における AI ガバナンス AI 事業者ガイドライン

    AI セーフティに関する評価観点ガイド 書籍「AIガバナンス入門 リスクマネジメントから社会設計 まで」 「AI ガバナンス」は「AI ガバナンス」なのか
  3. AI ガバナンス リスク管理 + 提供価値の最大化 アジャイルガバナンス: 組織として 学習し続けることを求める リスクマネジメントに関するISO 標準

    (ISO 31000:2018) でもアジャ イルの考え方を取り入れている AI事業者ガイドライン(METI/経済産業省) https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html
  4. 「AI ガバナンス」は「AI ガバナンス」なのか 既存の AI ガバナンスの議論は法制度・認証制度になりがち 基本的に議論しているのは AI セーフティ AI

    セーフティはそれぞれのユースケースでにやるべき内容が異なる AI ガバナンス: リスク管理 + 提供価値の最大化 AI セーフティに関するリスクの評価結果を確認するだけが AI ガバ ナンスではない
  5. リクルートAI活用指針 1. ユーザーの機会拡大や社会の発展 に繋がるAIの活用 2. 公平性・公正性の追求 3. プライバシー保護とセキュリティ 強化 4.

    アカウンタビリティの向上 5. ステークホルダーや有識者との対 話 リクルートAI活用指針 | 株式会社リクルート https://www.recruit.co.jp/privacy/ai_policy/
  6. インテージグループAI利活用指針 1. 安全性の重視・セキュリティの強 化 2. 公平性の確保 3. プライバシー保護・コンプライア ンス順守 4.

    透明性の追求 5. 品質の追求 インテージグループAI利活用指針 | 企業情報 | インテージホールディングス https://www.intageholdings.co.jp/company/ai_policy/
  7. セガでの AI ガバナンス CEDEC 2025 講演資料よ り引用 (pp.11-12) もはや AI

    を使うのが当た り前で気がついたら誰も が使っているという前提 「AIを使わないことはあ りえない」 安心安全に生成AIを使おう!社内で運用中の生成AIのガバナンスをご紹介 https://cedil.cesa.or.jp/cedil_sessions/view/3147
  8. 1. 統合的なAI相談窓口 CEDEC 2025 講演資料よ り引用 (pp.17, p.19) AI ガバナンス担当チーム

    は、組織の中でもっとも 活用事例に詳しいチーム どんな問い合わせにも答 えることで信頼を勝ち取 る 安心安全に生成AIを使おう!社内で運用中の生成AIのガバナンスをご紹介 https://cedil.cesa.or.jp/cedil_sessions/view/3147
  9. 2. AI 活用支援 AI ガバナンス担当の持つ 専門知識は、組織内の別 チームは持っていない チームトポロジーの「イ ネイブリングチーム」 短期間の密なコラボレー

    ションで組織内のチーム が AI 活用できるよう支援 マシュー・スケルトン, マニュエル・パイス 著 原田 騎郎, 永瀬 美穂, 吉羽  龍太郎 訳「チームトポロジー」日本能率協会マネジメントセンター 2021年
  10. Stevey's Google Platforms Rant Amazon が Microservice Architecture へと移行する前の状態 システムがモノリシックな構造である場合、互いの変更がどう影響

    するかわからないため、機能開発チーム間での綿密な調整が必要 再現のない調整会議 綿密な統合テスト 共通のデプロイ計画 これらがとてつもないコミュニケーションコストを生み出し、シス テム開発が硬直化
  11. 結果: 新たな複雑な問題が発生 エスカレーションが困難、1つの不具合が発生したとき、どの API が原因なのか突き止めることが困難で、担当チームを突き止めるの が難しい 互いのチームが DoS 攻撃者となりかねないため、スロットリング とクォータの導入が必須

    デプロイ前のQAによる担保が不可能、モニタリングの強化が必須 どんなサービスがあるのか知るのが難しい、サービスリポジトリが 必要 他の人のコードをデバッグするのはほぼ無理
  12. AI Native Company AI エージェントは「1つのこと(ドメイン)をうまくやる」 「それらを ワークフローでつなぎ合わせる」ことで構築される AI エージェントにより Microservice

    Architecture が再実装される Microservice Architecture ではさまざまな課題が生じ、設計がほぼ すべてと言われる コンウェイの法則から、システムの設計と組織設計は等価 AI ガバナンスは今後、Microservice Architecture で直面した技術的 な課題に改めて直面することが予想される
  13. まとめ AI ガバナンス: リスク管理 + 提供価値の最大化 法制度や AI のリスクに関する議論が先行しているものの、それら は

    AI セーフティとして社内の各チームが取り組むべきもの AI ガバナンス専門のチームだけが低減できるリスクは「AI を活用し ない」リスク うまくいっている組織では AI ガバナンスのミッションを「AI の組 織的な活用」としている AIガバナンスチームはイネイブリングチームとして「統合的なAI相 談窓口」 「AI 活用支援」 「教育」を行うと良い