大規模組織にAIエージェントを迅速に導入するためのセキュリティの勘所 / AI agents for large-scale organizations

2025年7月23日 Devin/Cursor/Cline全社導入 セキュリティリスクにどう対策した？
https://levtechlab.connpass.com/event/359758/

Transcript

1. 1 Masato Ishigaki
 July. 19, 2025
 「大規模組織にAIエージェントを迅速に導入するため のセキュリティの勘所」 

2. 2 About me
 石垣 雅人
 合同会社 DMM.com
 
 プラットフォーム開発本部 副本部長
 / 第1開発部 部長 / VPoE室 / アルファ室
 
 ・連載中 : 『開発生産性の多角的視点』（CodeZine） 
 ・連載中 : 『スモールチームが武器になる時代へ』（ProductZine） 
 ・連載中 : 『群知能から紐解く、スケールする“組織“の作り方 』（NewsPicks）
 
 2
5. AIエージェントを組織に導入するにあたって、
 セキュリティリスクが。費用対効果が。といった理由で
 導入に足踏みしている現場向けにN=1の事例を話します 
 話すこと
 5
6. - 導入を阻害するセキュリティリスクの傾向値と勘所
 - 導入スピードと体制（N=1）
 - いま、目指しているAX戦略
 Table of Contents
 6
7. - 導入を阻害するセキュリティリスクの傾向値と勘所
 - 導入スピードと体制（N=1）
 - いま、目指しているAX戦略
 Table of Contents
 7
8. AI導入の懸念はセキュリティリスクが上位
 IPA DX動向2025 
 情報通信白書2025 
 8
9. カテゴリ 典型的な障壁・失敗パターン 参考レポート ① 機密データ漏えい 従業員が機密文書をプロンプトに貼り付ける / 学習ログに残る デジタル庁ガイドブック（工程別リスク表）  デジタル庁 ② 不正確・有害生成 ハルシネーションによる誤情報、差別的出力、フェイク生成 IPA AIセーフティ（有害情報制御の観点）  情報処理推進機構 ③ サイバー攻撃耐性不足 プロンプトインジェクション、 Tool Poisoning Attacks等の脆弱性。特に MCPサーバーは注意 IPA AIセーフティ／NISC報告  情報処理推進機構NISC MCPサーバーを利用する前に理解しておくべ きセキュリティリスク ④ ガバナンス不在 経営層の方針・責任分担が曖昧、開発・提供・利用者でチェックが抜け 落ちる AI事業者ガイドライン（ガバナンス構築章）   経済産業省 AI導入の懸念はセキュリティリスクが上位
 9
10. AIエージェント導入の勘所
 ↓導入することが「前提」でその中での再現のセキュリティー対策をする
 ↓なぜならAIエージェント及び生成AIを扱える人材がそこまでいない
 ↓ゆえに当意即妙 / 臨機応変で進めていく
 ↓最低限のガードレールは突き進みながら都度整備していく
 
 10
11. 大規模組織ほど導入が進んでいる
 11
12. 背景データ、大規模組織ほど導入が進んでいる
 大規模組織の全体(全員)に浸透しているかは別として、
 市場が激化する中で
 獲得しないといけないユーザーがいて
 勝たないといけない競合がいる中で
 動きを早めていかないといけないことは間違いない
 12
13. - 導入を阻害するセキュリティリスクの傾向値と勘所
 - 導入スピードと体制（N=1）
 - いま、目指しているAX戦略
 Table of Contents
 13
14. 14 初動導入ログ（25年2月〜）
 ※AI関連は動きが早いのでSlackをベースに
 活動ログを残しておくと便利（slackのCanvas）
 2/25 : Devin 開始 3/2 : Cline 開始 3/12 : トライアル結果 4/8 : AI-BPR戦略
15. 15 全体ボリューム感と体制
 Volume : 1,200〜1,300人（クリエイター組織） 7本部 37部門 sec Budget Budget Budget .. .. 概要
 ・クリエイター組織内に専門組織を持たない 
 ・促進せずとも自律的に動くように 
 ・ノウハウの共有を率先して行うことで浸透 
 
 導入フロー
 1. ツールをセキュリティ部門が確認 
 2. 声を上げた人たちでトライアル 
 3. FBを経て本部予算を含めて承認 
 4. VPoTの承認を経て全社展開可能へ 

16. セキュリティ部門の確認済みツールの集約と参照
 基本的に社内SSOで管理できるものはそっちに倒す 
 シャドーITにはならないようにAIエージェント系は情シス部で管理する（できるだけ） 
 16
17. 17 sec 扱える人材がいない→増やすには
 ゆるい繋がりからSECIモデルを回していく 

18. - 導入を阻害するセキュリティリスクの傾向値と勘所
 - 導入スピードと体制（N=1）
 - いま、目指しているAX戦略
 Table of Contents
 18
19. DD Dev Test auth / authorization MCP ‘s’ amazon bedrock / vertex ai / azure openai GitHub JIRA vibe-coding/ ai coding AI costs and budget Des … … … … budget cost out Dev Ops in out in コンテキストを 渡していく vibe-management 予算との予実管理 doc as codeしたもの LiteLLM docs-as-code ベクトルDB Vector Search out Access Manager PRD PM Ops Human Ops 今進めている AX戦略 全体像 必要に応じてここを通る AI Agent / client 開発必要な情報はここにあるイメージ json-rpc KGI/KPI Ops 19
20. DD Dev Test auth / authorization MCP ‘s’ amazon bedrock / vertex ai / azure openai GitHub JIRA vibe-coding/ ai coding AI costs and budget Des … … … … budget cost out Dev Ops in out in コンテキストを 渡していく vibe-management 予算との予実管理 doc as codeしたもの LiteLLM docs-as-code ベクトルDB Vector Search out Access Manager PRD PM Ops Human Ops 今進めている AX戦略 全体像 必要に応じてここを通る AI Agent / client 開発必要な情報はここにあるイメージ json-rpc KGI/KPI Ops ① AI-BPR（AI前提のプロセスに作り直す） ② 既存プロセスの docs as codeによるAIリーダブルな状態を作る ③ セキュアな環境構築 ④ コスト管理 現在、生産量は 1.5倍が傾向 値これをN倍にしていくための ①〜④の実践 20
21. auth / authorization MCP ‘s’ amazon bedrock / vertex ai / azure openai GitHub JIRA vibe-coding/ ai coding AI costs and budget … … … … budget cost out in out in コンテキストを 渡していく vibe-management 予算との予実管理 doc as codeしたもの LiteLLM docs-as-code ベクトルDB Vector Search out Access Manager 必要に応じてここを通る AI Agent / client 開発必要な情報はここにあるイメージ json-rpc DD Dev Test Des Dev Ops PRD PM Ops Human Ops KGI/KPI Ops ≈ 業務プロセス区分 1. 運用工数
 a. 問い合せ・顧客対応 
 b. 障害対応・ルーチンワーク 
 2. 組織管理工数 
 a. 組織管理のルーチンワーク 
 b. プロジェクトルーチンワーク 
 3. 新規開発工数 
 a. 要件定義・企画フェーズ 
 b. 設計フェーズ 
 c. 実装フェーズ 
 d. テストフェーズ 
 e. デプロイ
 4. 保守開発
 a. リファクタリング 
 
 業務プロセス抽出 - プロセス / 目的 / 課題
 一番初めにしたこと : AI-BPR戦略のための業務プロセス洗い出し 21
22. aグループ bグループ cグループ dグループ eグループ fグループ gグループ hグループ rグループ jグループ kグループ lグループ mグループ nグループ oグループ 業務プロセスごとのAIエージェント利用率の結果
 「すべてのプロセスをAI前提で作っていく」
 22
23. AIエージェントを組織に導入するにあたって、
 セキュリティリスクが。費用対効果が。といった理由で
 導入に足踏みしている現場向けにN=1の事例をお話しました 
 話せたこと、まとめ
 23