人とAIが共創する ガードレール設計

Transcript

1. Agentforce設計入門 人とAIが共創する ガードレール設計 AIを「何でも答える魔法」ではなく、 安全に協働するデジタルワーカーへ 株式会社キットアライブ 吉松 保博
2. 本日の流れ：ガードレール設計の見取り図をつかむ 「AIの性能」ではなく、業務の構造化と境界線の明確さで成果が決まる 01 02 03 04 幻影と現実 業務の構造 化 境界線の設 計 ハンズオン AIへの無茶振りを防ぐ IPOと5-FITで見極める 人とAIの役割を分ける 3つのガードレールを実装 この後のハンズオンでは、禁止・停止・エスカレーションの 3シナリオを実際に設計します。 02
3. 01 幻影と現実 幻影と現実のギャップ： AIへの「無茶振り」を防ぐ 構造化されていない業務をそのまま渡すと、ハルシネーションや越権判断につながる。 幻影： The Illusion 非構造化業務を そのまま丸投げ プロンプト調整だけに頼る 不確実な運用 ! 現実： The Reality 設計で変換 「誰が・いつ・何を使い・どう判断 するか」まで業務を具体化する 得意領域に分けた 安全な協働 業務の言語化・構造化 ガードレールの明示 ✓ 03
4. 01 幻影と現実 ガードレールとは： AIの行動を安全な範囲に閉じ込める設計 「何をするか」と同じくらい、「何をしないか」「どこで止めるか」を定義する。 AIの通行可能範囲 INPUT AI データ・履歴・ FAQ 分類・要約・判定 禁止：越権行為をしない OUTPUT 下書き・通知・タス ク 停止：根拠がなければ止まる HUMAN 確認・判断・対話 エスカレーション：人へ渡す 04
5. 01 幻影と現実 ガードレールの利点：人は顧客との対話に集中できる AIには「準備」を任せ、人は顧客価値に直結する「対話・判断」に時間を再配分する。 導入前 情報収集・整理 80% 導入後 AIが準備を自動化 AIに任せる 顧客情報・活動履歴・問い合わせ 履歴の収集／要約 対話 20% 顧客課題の理解・提案方針・深い対話に集中 人が担う 値引き・契約条件・関係構築・最終レ ビュー 成果 準備作業から顧客価値に直結する 業務へ時間を戻す 05
6. 02 業務の構造化 Step 1：業務を「データの変換プロセス」として解剖する 人の作業順ではなく、Input → Process → Output の流れで捉え直す。 INPUT 材料 PROCESS 加工・判断 OUTPUT 成果物 Salesforce顧客接点 取引傾向・購入履歴 問い合わせケース履歴 ナレッジ記事・規約 分類 要約 判定 根拠確認 商談前サマリー 質問リスト 注意喚起情報 Slack通知・Task 実装の鍵： AIが「何を知っていれば判断できるか」をすべて書き出す 06
7. 02 業務の構造化 Step 2：5-FITでAIに任せる業務かを見極める 頻度・再現性・明文化・明確性・安全性。特に安全性がガードレール設計の入口になる。 AI Task Assignment Safety / 安全性 AIにすべてを完結させない ・人間が最終的に確認／承認する ・AIが判断できない場合は停止する ・リスク検知時は担当者へ渡す 頻度 再現性 明文化 明確性 安全性 月に複数回 発生するか 毎回似た 流れか 判断基準を 説明できるか 入力と成果物 が明確か 人が最終確 認 できるか 5-FITは「任せる」だけでなく、 「止める条件」を見つけるためのチェックでもあ る 07
8. 02 業務の構造化 Step 3：デジタルワーカーと人間の境界線を引く Agentforceは準備と下書き、人間は判断と関係構築。役割が分かれるほど安全に速くなる。 Agentforce / デジタルワーカー 人間 / 意思決定者 1 Salesforceなどから自動的に情報収集 1 値引き・特別契約条件の最終判断 2 過去の顧客対応・商談履歴を要約 2 顧客との直接交渉・関係構築 3 商談前サマリーや質問案を下書き 3 AIアウトプットのレビュー 任せる範囲を限定するから、 AIは安全に「準備の質とスピード」を上げられる 08
9. 03 ガードレール設計 3つのガードレール：禁止・停止・エスカレーション 「AIに何をやらせないか」を3層で設計する。 Layer 1 Layer 2 Layer 3 禁止 / Prohibit 停止 / Stop 引継 / Escalate AIが独断で行ってはならない越権行 為を完全に制限 データ不足時や未知の要望時、推測 せず処理を止める 値引き提示・契約確約 活動履歴なし・ FAQ不一致 リスク検知時に AIから人間の担当者 へバトンを渡す High（重要度）・未解決クレーム・ 解約示唆 判断不可・権限外・高リスクを明確に分けることで、 AIの出力は「便利」から 「業務で使える」へ変わる 09
10. 03 ガードレール設計 Scenario 1：禁止 — 越権行為をブロックする AIが値引きや契約条件を独断で判断しないようにする。 禁止 User 「何%値引きすれば 受注可能か？」 Output AIによる 値引き判断を ブロック 「値引き率は判断できません。 価格決定は承認者が行って ください」 代替支援：過去の傾向データ提示までに限定し、最終判断は人に残す 10
11. 03 ガードレール設計 Scenario 2：停止 — 情報不足時のハルシネーションを防ぐ 根拠がないときは「それらしい回答」を作らず、処理を止める。 Data Check Stop User 「明日の商談準備をし て」 直近180日以内 活動履歴： 0件 処理を停止し、 前任または担当者への 確認アクションを提示 No Data ルール： Salesforce上に根拠がない場合は、推測で補完しない 11
12. 03 ガードレール設計 Scenario 3：エスカレーション — リスクを検知したら人へ渡す AIの限界を認識し、重要な判断や顧客対応は人間へシームレスにバトンパスする。 Trigger 「商談準備をして」 Risk Detected ! 優先度Highの 未解決クレーム Human handoff 提案書作成を止める リスク警告を表示 営業責任者へ通知 Taskを自動起票 ルール：新規提案よりも既存トラブルのリスク対応を優先する 12
13. 04 実装への翻訳 人間の言葉から、システムが判定できる条件へ翻訳する 曖昧な指示では動かない。データ・条件・アクションに落とすことで実装できる。 良い例： AI向け定義 悪い例：人間向け 「難しい問い合わせは 担当者に回して」 「怒っている時は 自動返信しないで」 翻訳の構造 データ ＋ 条件 ＋ Action 「本文に解約・返金を含む、 または FAQ不一致時に通知」 「優先度 Highかつ未解決時は 回答作成を停止」 この後のハンズオン：禁止・停止・エスカレーションを Agentforceの指示やFlowに落とし込む 13
14. ご清聴ありがとうございました！！ この後のハンズオン：禁止・停止・エスカレーションを Agentforceの指示や Flowに落とし込む 14