どこまでAIに任せるか 〜確率論と決定論の境界決定〜

3-SHAKE「AIを紡ぐ者たち #2 ～本当にラクになった？生成AIで削った業務・増えた業務～」にて登壇しました。
https://3-shake.connpass.com/event/399003/

生成AIで業務は「削れた」のではなく、別の場所に「移った」だけ、という実感から出発する話です。
生成AIは確率論、業務システムが要求するのは決定論。
この境界をどう設計するかを、道交法判定・設計図面の構造化・フィジカルAI×MPCの使い分けといった実案件（Gemini / Vertex AI）を通して共有します。
「AIを信じすぎないことが、AIを最も活かす」

Transcript

1. どこまでAIに任せるか 〜確率論と決定論の境界決定〜 2026年7月23日 @AIを紡ぐ者たち 株式会社スリーシェイク 小渕 周 Shu Kobuchi
2. 自己紹介 小渕 周 (Shu Kobuchi) こぶシュー X: @shu_kob 2023年12月 株式会社スリーシェイク入社 • Sreake 事業部 アプリケーション開発支援チーム エンジニア • 生成 AI アプリケーション開発等 (Gemini, Google Cloud) • 2025年1月より マネージャーに就任 2
3. 今日のテーマへの、私の回答 テーマ：本当にラクになった？ 削った業務・増えた業務 生成AIは業務を 「削らない」 。「移す」 。 ラクになったように見えて、しんどさは “別の場所” へ移動しただけ 従来の業務プロセス 業務のしんどさ 移す 別の場所へ 決定論 ・ 検証 ・ 設計 s p l 「どこへ移すか」を決める ＝ 境界線の設計 ＝ 今日の本題 i t
4. 発表のポイント  生成AIは 確率論 のエンジン  業務システムが要求するのは 決定論 の保証 split 混ぜずに、境界線を引いて使う 4
5. なぜAIは ”振り回して ” くるのか LLM は次のトークンの確率分布を選んでいるだけ  LLM の本質: next-token prediction = 確率モデル • 同じ入力でも出力が揺れる • もっともらしく嘘をつく (ハルシネーション ) ”違和感 ” ”細かい間違い ” の根本原因はここ 5
6. 2026年4月、自転車に青切符が来た 道交法改正 (令和6年法律第34号) 2026/4/1 施行 16歳以上 / 113種類の違反 反則金 3,000〜12,000円 Gemini への問いかけ 「75歳が歩道を自転車で走った。違反?」 6
7. Gemini 3 Flash が落ちる 3 パターン パターン 何が起きるか 例 階層無視 原則→例外→例外の例外を平坦 化 歩道通行の例外規定を見落とす 数値捏造 条文にない反則金額を補完 存在しない『3,000円』を回答 参照欠落 『政令で定める者』を解決できない 70歳以上の歩道通行許可を無視 7
8. 救世主は 2008 年度の卒論 決定論的パース + コサイン類似度で殴る 1. データ取得 : e-Gov 法令API から法令XMLを取 得 2. 解析: XML を AST にコンパイル (決定論的パー サ) 3. 特定: TF-IDF + コサイン類似度で関連条文を特 定 4. 構造化 : 「を除く」「政令で定める者」も抽出 8
9. ハイブリッド構成 Layer 1 (決定論) で根拠を作り、 Layer 2 (確率論) で言わせる Layer 1: Deterministic Engine Legal Compiler (XML→AST) + VSM Engine (TF-IDF cos) → 条文 AST + 反則金 + 委任規定の解決済み情報 Layer 2: Probabilistic Engine Gemini に『この条文だけ見て答えろ』と指示 推論の自由を物理的に奪うのがコツ 9
10. Before / After Flash 単体 (Before) ハイブリッド (After) • 例外規定を無視 • 条文を正確に引用 • 架空の反則金額を生成 • 反則金テーブルに準拠 • 委任規定を解決できず • 委任規定を Layer 1 で解決済み 詳細はブログにも https://shu-kob.hateblo.jp/entry/2026/04/17/091806 10
11. レガシーな ”設計図面 ” のデジタル化 課題: AI 丸投げによる限界 • • • 古い Excel/PPT 図面の構造化プロジェクト 再現性ゼロ。同じ図面で結果が異なる バグの原因特定や追跡が困難 解決策 : 3層決定論パイプライン • • • 座標ベースの幾何学的な解析手法を採用 形状/座標抽出 → 連結成分から親子関係構築 構造化データ (CSV/JSON) への確実な変換 高い精度と再現性を実証 再現率 0.956 / 適合率 0.959 / 型一致 0.995 11
12. フィジカル AI は “決定論の安全網 ” で制御する 学習は主役でいい。ただし “最終権限 ” は決定論に残す 学習・確率が効く（主役になれる） 決定論が譲れない（ MPC / CBF） • 知覚・状態推定 • 制約充足・安全マージンの証明 • 接触の多い器用なマニピュレーション • リアルタイム保証 • 未知物体・状況への汎化 • 認証可能・再現可能な挙動 • 意図解釈・対話 VLA・拡散方策 (Diffusion Policy 等) が制御ループの中で動く モデル予測制御 (MPC)・制御バリア関数 (CBF) 境界＝安全網： 学習が主役でも、決定論が “最終権限（拒否権） ” を持つ 手段：危険な出力を拒否・射影する Runtime Assurance / Simplex アーキテクチャ
13. 設計原則 : ゾーンを分ける ゾーン 任せる仕事 例 確率論 (生成AI) 0→1のクリエイティブ / 自然言語 の解釈 / ラフ案 構成案、画像、要約、対話 決定論 (システム) 再現性 / 数値 / 安全 / 監査可能 性 法令判定、図面構造化、物理制御、課金 13
14. 余談: このスライド、 CLI で作りました STEP 01: 構造定義 (決定論 ) 骨子 JSON で構造を固定 STEP 02: 素材生成 (確率論 ) • Vertex AI Gemini で挿絵プロンプトを生成 • Imagen で挿絵生成 STEP 03: 反映 (決定論 ) Google Slides API で構造を batchUpdate で書き込み Conclusion 生成プロセス自体が ”境界線” の実例 14
15. で、業務は「どこへ」移ったか 削った（AIに移せた） • 法令の一次あたり・条文の下調べ • 古い図面の目視トレース • ドラフト・要約・言い換え 増えた（人・システムへ） • 境界線の設計判断 一番増えた （どこを渡さないか） • 決定論エンジンの実装・保守 （ルールベース） • 検証・監査の仕組み （再現率・根拠の固定） • コスト管理 （人件費 → AI課金に化ける） 移動先を “安全側 ” に置けたときだけ、初めて “ラク” に近づく 15
16. まとめ AI を信じすぎないことが、 AI を最も活かす    生成AI は確率論 決定論を被せる 境界線の設計 これは「仕様」であり、不確実性が本 質であることを理解する必要があり ます。 失敗が許されないクリティカルな領 域には、従来の決定論的な制御シス テムを組み合わせます。 どこまでを AIに任せ、どこをシステム で固めるか。その設計こそがエンジ ニアの真価です。 AI と既存技術の最適なハイブリッド構造を目指す 16
17. ご清聴ありがとうございました  GitHub: gemini-law-compiler (github.com/shu-kob/gemini-law-compiler)  過去発表: 決定論 vs 確率論 (Speaker Deck)  X (Twitter): @shu_kob 17