AIが安心安全に意思決定できる基盤を目指して

Transcript

1. @IVRy Inc. All rights reserved. AIが安⼼安全に意思決定できる基盤を ⽬指して 株式会社IVRy データエンジニア 松⽥ 健司
2. ヤフー株式会社（2014 - 2016） 新卒⼊社し、広告配信システムのDMP開発に従事。 株式会社カケハシ（2016 - 2025）  薬局向けSaaSのスタートアップに6⼈⽬として参画。  ソフトウェア開発を起点に、データエンジニア、  エンジニアリングマネージャーまで、事業の成⻑に  合わせて幅広く経験。 株式会社IVRy（2025-) データエンジニアとして、データ基盤の構築に従事。 松⽥ 健司 (X:@ken_3ba) 2
3. 対話AIプラットフォーム 「アイブリー」
4. @IVRy Inc. All rights reserved. 4 アイブリーとは 2つの機能が循環する"対話の場" 対話AIプラットフォームとしての価値構造 電話、Chatなど、 あらゆる顧客接点の コンテキストを理解 AI対話機能 対話データを ⼀元管理‧分析 IVRy DataHub アイブリーは、あらゆる顧客接点の⽂脈を理解するAI対話機能と、その対話データを⼀元管理‧分析するIVRy Data Hub。この2つを備えた『対話AIプラットフォーム』です ⾮構造化デー タ 対話品質の向上 リスク検知 ナラティブな 対話データ ⽂脈理解 聞き返し ナレッジの集約 VoC分析 対話の場
5. @IVRy Inc. All rights reserved. 5 現場の声が、経営に効くデータに変わるまで 対話AIプラットフォームとしての価値構造 IVRy Data Hubによってこれまでブラックボックスだった現場の声を分析可能なデータに変え、対応品質の 向上や顧客との⻑期的な信頼関係の構築など、経営課題の解決に直結させます 電話 Chat SMS メール アイブリー スタッフ FAQ 顧客データ 対話データを ⼀元管理‧分析 IVRy DataHub 対話データ 顧客データ FAQ /マニュアル データの可視化 対話データ
6. @IVRy Inc. All rights reserved. 今⽇話すこと 6 データ基盤は「⼈がデータをためて⾒る」ものから、 「⼈やAIが安⼼‧安全に意思決定する」ものへ。 それを⽀えるのが、データガバナンス。 締め付けじゃない、安⼼して使ってもらうためのもの。 今⽇は、IVRyの取り組みや今後を話す。
7. @IVRy Inc. All rights reserved. アジェンダ 7 1. AI Readyなデータ基盤とは 2. AIに安心して「任せる」ための事前のガードレール 3. AIの異常にすぐ「気づく」ための事後モニタリング 4. まとめと今後
8. @IVRy Inc. All rights reserved. 8 Databricksを中⼼にしたデータアーキテクチャ 引用: IVRyを支えるデータ・AIプラットフォーム
9. @IVRy Inc. All rights reserved. 9 AI時代におけるDatabricksのデータ基盤の⾒解は？ Data + AI Summit 2026のKeynoteより、 「AIは⼗分に賢い。ただ、まだ仕事では使えていない」 ⾜りていないのはモデルの賢さではなく、以下の4つの観点 Context(業務⽂脈)、Control(ガバナンス)、Cost(コスト管理)、Choice(モデル選択) 引⽤:Data + AI Summit Keynote 2026 | Day 1
10. @IVRy Inc. All rights reserved. 10 今後のデータ基盤の役割は？ データを貯める場所からAIがビジネスで安⼼‧安全に意思決定するための⼟台へ パイプラインの生成から障害の検知・修正まで、 AIが自 律的に実行する。 出典：Databricks Data + AI Summit 2026 キーノートより整理 データの使い方 保存中心 意思決定支援 ETL開発 手動 自動生成・運用 分析の担い手 人が分析 AIが分析 データ連携 閉じた基盤 オープンな連携 ログ・コスト監視 分散 一元管理 モデルの選択 単一モデル 複数モデル
11. @IVRy Inc. All rights reserved. 11 今回のテーマは Control、Costといったガバナンスとコストについて話します 引⽤:Data + AI Summit Keynote 2026 | Day 1
12. @IVRy Inc. All rights reserved. 12 利⽤を制限したいわけじゃない、最適化したい。 「ガバナンス＝制限」、は誤解。 データエンジニアは、縛りたいんじゃない。 むしろ、もっと使ってほしい。もっと価値を出してほしい。 ただ、セキュリティの事故は許されない。 コストが⾒合わなければ、ROIが合わない。それは利⽤者だって嫌なはず。 利⽤者に何も意識させず、最⼤限使わせて、価値創出に貢献する。 そこがデータエンジニアの腕の⾒せ所。 ⽬指すのは、利⽤者もAIも、何も気にせず使える基盤。 ガバナンスは、その裏で担保しておく。
13. @IVRy Inc. All rights reserved. 13 やることは同じ。むしろ難易度が上がった。 AI登場前も、やっていたのはETL開発とガバナンス。 実装はAIがやる。設計とガバナンスは、⼈間がやる。 むしろ難しくなった。 昔は利⽤者だけ、今はAIも利⽤する。 ガバナンスでやることは、変わらない。予防と検知を、淡々とつくる。 IVRyの実践と、これからについて話す。
14. @IVRy Inc. All rights reserved. アジェンダ 14 1. AI Readyなデータ基盤とは 2. AIに安心して「任せる」ための事前のガードレール 3. AIの異常にすぐ「気づく」ための事後モニタリング 4. まとめと今後
15. @IVRy Inc. All rights reserved. 15 予防的統制:起きる前に防ぐ 不正、コスト超過といった問題が発⽣する前に防ぐための仕組み。 ⽬的 リスクの発⽣⾃体を未然に阻⽌すること 特徴 注意点 事象そのものが起きず、被害‧損失の影響を最⼩化できる • 制限を厳しくしすぎると利⽤者の利便性を損なう • 事前にリスクを予期して設定する必要があり、⾼い知⾒が求 められ、想定外の事態に弱い 具体例 • アクセス管理 • 予算の設定 • データのバリデーションチェック
16. @IVRy Inc. All rights reserved. 16 必要な⼈が必要なデータだけに触れる権限管理 最⼩権限の原則に基づく RBAC + ABAC で権限を管理。 AIは役割に収まらないため、「今この瞬間、何のためにどのデータを触るか」 を絞る必要があるため、今後はよりABACが効いてくる。 https://javascript.plainenglish.io/why-abac-beats-rbac-for-custom- permissions-a-developers-real-world-case-73dbcb1d328b RBAC(ロールベースアクセス制御) 役割で、大枠を絞る ユーザーの役職や職務に基づき データへのアクセス権を付与 ABAC(属性ベースアクセス制御) 属性で、その都度判定 ユーザー・リソース属性、環境条件など 動的な属性情報に基づきアクセス権を付与 RBACを⼟台に、ABACを重ねて条件絞る
17. @IVRy Inc. All rights reserved. 17 個⼈情報はマスキングし、⽣データを露出させずに分析できるようにする。 ⽣データと匿名加⼯情報は分離して管理し、⽣データは利⽤できない場所に配置する。 利⽤者とAIはマスキングされたデータを利⽤して分析 匿名加⼯情報 ⽣データ マスキング 処理 通話ID 電話番号 通話内容 abc-1234 090-1234-5678 佐藤さんの商品が 届いていない 通話ID 電話番号 通話内容 xxx-xxxx 090-xxxx-xxxx XXさんの商品が 届いていない
18. @IVRy Inc. All rights reserved. 18 今後は利⽤者によってAIの回答を変えられるように 利⽤者の権限ロールや利⽤⽬的に応じてAIが返す内容を切り替え。 個⼈情報を必要な⼈や必要な時だけ開⽰し、セキュリティを保ちながら 最⼤限活⽤できる。
19. @IVRy Inc. All rights reserved. 19 意図しない過度な利⽤による⾼額請求を防⽌ 現状は、モデルの利⽤制限を共通、かつ、⼀律に適⽤しています。 今後は、モデルやユーザーの属性に応じた柔軟な個別設定を可能にし、 利⽤者の利便性と安全性の双⽅を両⽴させます。
20. @IVRy Inc. All rights reserved. アジェンダ 20 1. AI Readyなデータ基盤とは 2. AIに安心して「任せる」ための事前のガードレール 3. AIの異常にすぐ「気づく」ための事後モニタリング 4. まとめと今後
21. @IVRy Inc. All rights reserved. 21 発⾒的統制:起きたら気づく すでに発⽣した問題をあとから⾒つけて対処するための仕組み。 ⽬的 発⽣した問題を早期に検知し、是正‧対応につなげること 特徴 注意点 予防で防ぎきれない想定外‧不正も拾える • 検知はあくまで事後で、被害の発⽣⾃体は防げない • 継続的なモニタリングと気づいた後の是正‧対応がセットで 必要 具体例 • 監査ログのモニタリング • 定期的な棚卸し • アラート、異常検知の通知
22. @IVRy Inc. All rights reserved. 22 アクセス‧コストの監視と、利⽤実態の可視化 現状は、コストを可視化し、週次ベースでモニタリングしている。 今後は、監査ログのモニタリングへと対象を広げ、コストについても利⽤⽤途や チーム単位での按分を⾏い、より詳細を可視化する。
23. @IVRy Inc. All rights reserved. 23 データアクセスおよび予算超過における異常検知の強化 現状は、⼤まかな予算超過アラートをSlackで通知している。 今後は、データアクセス、データ品質、予期せぬコスト超過の異常検知に対応 し、分析軸の多⾓化や通知先の拡充を通じて、より緻密で網羅的な検知運⽤へと⾼ 度化を図ります。
24. @IVRy Inc. All rights reserved. 24 まとめと今後 データ基盤は「⼈がデータをためて⾒る」ものから、 「⼈やAIが安⼼‧安全に意思決定する」ものへと変わる。 それを⽀えるのが、予防と検知のデータガバナンス。 ガバナンスは、締め付けじゃない。 利⽤者もAIも、何も気にせず使えるようにし、裏で担保しておく。 そして、ガバナンスは⼀朝⼀⼣ではできない。 ⼈間にしかできないこともある。だから、AIと協働して改善し続ける。