三田データ_BrainPadAAA_AIエージェント元年を振り返る

Transcript

1. 三田データ vol.1 2025.11.13 AIエージェント元年を振り返る
2. 2 ブレインパッド について 変革を目指す企業と共に最前線を走り続ける、データ活用推進パートナーのパイオニア 2004年創業、日本初の “対象業界を問わない総合データ分析サービス企業 ” として事業展開 　社名 ｜株式会社 ブレインパッド 　所在地 ｜東京都港区六本木 3-1-1　六本木ティーキューブ 11F・12F 　設立 ｜2004年3月18日 　株式市場 ｜東京証券取引所 プライム市場 （証券コード： 3655） 　従業員 ｜589名（連結、 2025年6月30日現在） 　代表者 ｜代表取締役社長 CEO　関口 朋宏 　主な事業　｜プロフェッショナルサービス事業 ｜プロダクトサービス事業 データ活用の促進を通じて持続可能な未来をつくる PURPOSE 息を吸うようにデータが活用される社会をつくる “Data-driven as Usual” VISION 技術と人材のサプライチェーン を再構築し、 国際競争力のある 豊かな日本の再生に貢献 する MISSION プロフェッショナル事業が 7割 →プロダクト事業の拡大に注力していく
3. 3 2025年3月、ブレインパッドが AIエージェントに特化した子会社 BrainPad AAAを設立 × AIエージェント エーキューブ
4. 4 4 人とAIが共生・協働する持続可能な未来をつくる Our Vision エージェントネイティブな社会を実装する Our Mission Our Vision/Our Mission
5. 5 経営メンバー 代表取締役社長 CEO 辻 陽行 / HARUYUKI TSUJI COO 古角 優弥 / YUYA FURUKADO 2012 年 にブレインパッドにアナリストとして 新 卒 入 社。機械学習モデルを用いた需要予測システムな ど複数プロジェクトでマネージャーとして社会実装を 実現。アナリティクス部の副部長や事業ディレクター を経て2024年に生成AIに関するタスクフォースの責 任者として従事し、2025年3月より現職。 慶應義塾大学環境情報学部卒業。ブレインパッドに 入社後、コンサルタントとして、全社DX戦略策定や 新規事業立案、組織改革、データ活用実行支援等 のテーマに 従 事 。その 後 、リーガルテックスタート アップの事業開発・PdMを経て、2024年4月よりブレ インパッドに再参画し、M&A組織を立ち上げ。2025 年3月より現職。
6. 6 動画解析AIエージェント「 COROKO」をリリース (2025/10/7) マルチモーダル AIが暗黙知を形式知化
7. 7 © BrainPad AAA Inc. AIエージェント元年とは？
8. 8 全てはここから始まった 2025年1月6日、NVIDIA CEO Jensen Huang氏がCESにて Agentic AIの時代が到来 したと宣言
 AIエージェントが 
 数兆ドル規模の産業 
 を生み出す可能性に言及 (出所) https://blogs.nvidia.co.jp/blog/ces-2025-jensen-huang/
9. 9 AIエージェントがなぜ産業を変える根拠とは？ そもそもAIエージェントとは？ 与えられた目標を達成するため に情報を処理し、 意思決定を行い自律的に行動するシステム これまでと何が違う？ ユーザーの直接介入なしに タスクを分解・遂行し、必要 に応じて外部ツールや他システムと連携して 目的達成まで実行できる →知的労働を代替・スケールできるのでは？
10. 10 © BrainPad AAA Inc. この一年で何が変わった？
11. 11 © BrainPad AAA Inc. 技術領域
12. 12 © BrainPad AAA Inc. フレームワーク 依存 共通規格
13. 13 データサイエンティスト 変化の背景にある課題 AIエージェントにツールを 利用させるコードを毎回実装 するのって無理じゃね？
14. 14 閉じた世界から繋がる世界へ (出所) https://norahsakal.com/blog/mcp-vs-api-model-context-protocol-explained/ AIエージェントが理解すべき ツールのコンテキストが 共通化され統合が容易に
15. 15 閉じた世界から繋がる世界へ 独自実装から共通規格へ MCPは普及したが、 A2Aが普及するかはこれから。。。
16. 16 共通規格ができたからといって全てが解決されるわけでもない AIエージェントが複雑化するにつれて、接続しているツール (MCPサーバーを含む）にもセキュリティリスクが生じる。信頼できるツール だけをAIエージェントが呼び出しているかを担保できなければ知らない間に攻撃を受けるリスクがある (出所) https://invariantlabs.ai/blog/mcp-security-notification-tool-poisoning-attacks MCPのツールに悪意のあ る攻撃的内容が含まれ裏 側で実行される ユーザーの承認後に悪意 ある説明に書き換え
17. 17 © BrainPad AAA Inc. OAuth Agent Auth
18. 18 データサイエンティスト 変化の背景にある課題 ユーザーの権限を AIエージェント に丸ごと渡すのって トレーサビリティなくね？
19. 19 AIエージェント無法地帯から AIエージェント自体を認証対象へ AIエージェントを前提とした認証基盤が徐々に構築され始める
20. 20 商品購入など重要な意思決定に AIエージェントが関与するための認証機構 (規格)も整備され始める Agentic Commerce Protocol (ACP) Agent Payments Protocol (AP2) (出所) https://stripe.com/blog/developing-an-open-standard-for-agentic-commerce OpenAI & Stripe Google (出所) https://cloud.google.com/blog/ja/products/ai-machine-learning/announcing-agents-to-payment s-ap2-protocol
21. 21 © BrainPad AAA Inc. Prompt Engineering Context Engineering
22. 22 データサイエンティスト 変化の背景にある課題 人間って自分たちが思っている 以上に文脈の一貫性を 重視してるよね？
23. 23 適切な指示から適切な背景情報提供へ (出所) https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents 気軽に言ってくれるけど、 これ誰が運用できるねん！！
24. 24 Contextは必要十分な量と質を担保して理解させる必要がある 結局、内部システムとしてはかなり個別の専門性が求められる事態に
25. 25 © BrainPad AAA Inc. LLM MLLM * マルチモーダル AIの方が一般的かも
26. 26 大規模言語モデルからマルチモーダルモデルへ 言語による理解から現実世界を統合的に理解するフェーズへ 自然言語を通じたコンテキスト の提供は負荷が高い コンテキストは観察によって モデルが自動的に獲得
27. 27 Deep MindによるGenie3が実現するダイナミックワールドシミュレーション 物理法則に従う生成がなされるようになってくると、デジタルツインのための学習データは現実のデータからではなく生成されたデータ から自己進化的に学習され始める (出所) https://deepmind.google/discover/blog/genie-3-a-new-frontier-for-world-models/
28. 28 MetaによるDINO v3 画像/映像理解の進化 DION v3は１つのモデルで、物体検知、セマンティックセグメンテーション、深度推定などの複数のタスクを実施可能 17億以上の画像を学習に用いており、多くのベンチマークで、 SOTA (最高性能)を獲得 (出所) https://ai.meta.com/dinov3/ 元動画 意味領域分割 深度推定
29. 29 © BrainPad AAA Inc. デジタル フィールド
30. 30 デジタル領域の業務からフィールド領域の業務へ (出所) https://research.google/blog/sensible-agent-a-framework-for-unobtrusive-interaction-with-proactive-ar-agents/ デジタル空間に完結した情報処理 リアルフィールドに拡張した情報処理 VLMで目の前に映る情報からユーザーをガイド Sensible Agent framework
31. 31 フィールドに介入できるとその実害も大きくなる (出所) https://arxiv.org/pdf/2410.13691 物理的な動作が伴うことで生成 AIが ジェイルブレイクされた時の社会的な脅威が大きく高まっている LLMに３つの役割を持たせることで（有害な命令を与える役割、実行する役割、評価する役割）有害な命令に最適化させることで、 100%有害な行動を取らせることに成功した研究事例
32. 32 © BrainPad AAA Inc. ビジネス領域
33. © BrainPad AAA Inc. 33 © BrainPad AAA Inc. AIエージェントは 産業にインパクトしてるか？
34. 34 © BrainPad AAA Inc. 5 % 本番稼働し利益に影響した生成 AIプロジェクト
35. © BrainPad AAA Inc. 35 MITの報告によると、生成 AIプロジェクトの 95%は利益に影響を与えていない ビジネスリーダーたちへの150回のインタビュー、従業員350人へのアンケート、公開されている AI導入300件の分析に基づいた調査 によって生成AIを用いた内製プロジェクトの大半は会社の業績に影響を与えていないことが明らかに (出所) https://fortune.com/2025/08/18/mit-report-95-percent-generative-ai-pilots-at-companies-failing-cfo/?utm_source=chatgpt.com なぜ失敗しているのか？ 学習のギャップ /業務統合の失敗 AIを既存の業務へ統合するプロセスに欠陥がある 汎用ツールの限界 汎用ツールは、企業の特定のワークフローから学習したり適 応したりしない リソースのミスマッチ 予算の半分以上がセールスやマーケティングに費されてい るが、最もROIが高いのはバックオフィスの自動化
36. 36 © BrainPad AAA Inc. AIエージェントはこれからどうなる？
37. © BrainPad AAA Inc. 37 © BrainPad AAA Inc. 大前提として AIが進歩しても変わらないことがある
38. © BrainPad AAA Inc. 38 38 © BrainPad AAA Inc. ① AIは進化するが 人間は進歩しない
39. © BrainPad AAA Inc. 39 39 © BrainPad AAA Inc. ② AIの成果責任は人間(法人)に 遡及される
40. © BrainPad AAA Inc. 40 AIエージェントがどれだけタスクを代替しても管理者がそれを承認しなければ意味がない 2023年頃から生成AIの推論能力や実行できる能力そのものが拡張するにつれて生成 AIが引き起こすハルシネーションや有害な出力 の影響範囲も拡大傾向にある プロンプト コンテキスト AIエージェント 自律型ロボット プロンプトに意図しない挙動を引 き起こす原因がある 生成AIが外部の文書やデータ ベースを参照した際に問題が発 生 AIエージェントが判断し、外部 ツールやAPIを実行してタスクを 遂行時に問題が発生 AIエージェントの判断と行動が、 物理的な身体を得て現実世界 に及ぶ段階 AIエージェントの行為による損害は誰がどう責任を取るのか？
41. © BrainPad AAA Inc. 41 ビジネスプロセスは責任配分で成り立っている 社会は同僚や取引相手が 「責任を持ってやり抜いてくれる」 ことを前提に成り立っている AIエージェントの出力は 確率的なのに自身で責任を担えない But
42. © BrainPad AAA Inc. 42 成果物責任を担保するフローが基本的にはボトルネックになる システム全体のパフォーマンスは、 ボトルネックにより決まる (出所)エリヤフ・ゴールドラット 『ザ・ゴール ― 企業の究極の目的とは何か』(2001)
43. © BrainPad AAA Inc. 43 AIエージェントがどれだけタスクを代替しても管理者がそれを承認しなければ意味がない AIエージェント AIエージェントがタスク遂行を代替 管理者 管理可能な範囲でしかスループットは増えない チェック しきれない
44. © BrainPad AAA Inc. 44 進化しない人間に安全に承認してもらう (責任を取ってもらう )仕組みが不可欠 管理者 承認負荷 承認頻度 * ただしAIエージェントの成果物の品質確認の責任をエンドユーザーに委任できる場合は別 認知コスト 承認頻度を下げるか、承認のための認知コストを下げるかしなければ 管理者がボトルネックになってビジネスインパクトは消滅する
45. © BrainPad AAA Inc. 45 AIエージェント元年が終わったら次は。。。 適応領域の清流化 セキュリティ/認証強化 評価システムの整備 とりあえず AIエージェントに やらせてみよう !! AIエージェントが何を呼び出 してるかは知らん !! 人間が頑張って評価 （LLMで評価) 高リスク領域の決定論的処理 低リスク領域の自律実行 Agent単位の認証の普及 最小権限原則の適用 Agentの監査義務強化 ベンチマークセットの整備 実行軌跡の記録と評価 サンドボックスによる検証
46. 株式会社BrainPad AAA 106-0032 東京都港区六本木三丁目 1番1号 六本木ティーキューブ　 https://brainpad-aaa.ai　info_aaa@brainpad.co.jp 本資料は、未刊行文書として日本及び各国の著作権法に基づき保護されております。本資料には、株式会社 BrainPad AAA所有の特定情報が含まれており、これら情報に基づく本資料の内容は、貴社以外の第三者に開示されること、 また、本資料を評価する以外の目的で、その一部または全文を複製、使用、公開することは、禁止されています。また、株式会社 BrainPad AAAによる書面での許可なく、それら情報の一部または全文を使用または公開することは、いかなる場合も禁じられております。