生成AIに振り回されない 〜確率論と決定論の使い分け〜

生成AIの出力は確率的に変化するのを、決定論で抑える工夫についてLTしました

第3木曜LT会 #29 で発表しました
https://re-shine.connpass.com/event/390806/

Transcript

1. 生成AIに振り回されない 〜確率論と決定論の使い分け〜 2026年5月21日 @第3木曜LT会 株式会社スリーシェイク 小渕 周 Shu Kobuchi
2. 2 自己紹介 小渕 周 (Shu Kobuchi) こぶシュー X: @shu_kob 2023年12月 株式会社スリーシェイク入社 • Sreake 事業部 アプリケーション開発支援チーム エンジニア • 生成 AI アプリケーション開発等 (Gemini, Google Cloud) • 2025年1月より マネージャーに就任
3. 発表のポイント  生成AIは 確率論 のエンジン  業務システムが要求するのは 決定論 の保証 split 混ぜずに、境界線を引いて使う 3
4. なぜAIは ”振り回して ” くるのか LLM は次のトークンの確率分布を選んでいるだけ  LLM の本質: next-token prediction = 確率モデル • 同じ入力でも出力が揺れる • もっともらしく嘘をつく (ハルシネーション) ”違和感” ”細かい間違い ” の根本原因はここ 4
5. 2026年4月、自転車に青切符が来た 道交法改正 (令和6年法律第34号) 2026/4/1 施行 16歳以上 / 113種類の違反 反則金 3,000〜12,000円 Gemini への問いかけ 「75歳が歩道を自転車で走った。違反 ?」 5
6. Gemini 3 Flash が落ちる 3 パターン パターン 何が起きるか 例 階層無視 原則→例外→例外の例外を平坦 化 歩道通行の例外規定を見落とす 数値捏造 条文にない反則金額を補完 存在しない『3,000円』を回答 参照欠落 『政令で定める者』を解決できない 70歳以上の歩道通行許可を無視 6
7. 救世主は 2008 年度の卒論 決定論的パース + コサイン類似度で殴る 1. データ取得 : e-Gov 法令API から法令XMLを取 得 2. 解析: XML を AST にコンパイル (決定論的パー サ) 3. 特定: TF-IDF + コサイン類似度で関連条文を特 定 4. 構造化: 「を除く」「政令で定める者」も抽出 7
8. ハイブリッド構成 Layer 1 (決定論) で根拠を作り、 Layer 2 (確率論) で言わせる Layer 1: Deterministic Engine Legal Compiler (XML→AST) + VSM Engine (TF-IDF cos) → 条文AST + 反則金 + 委任規定の解決済み情報 Layer 2: Probabilistic Engine Gemini に『この条文だけ見て答えろ』と指示 推論の自由を物理的に奪うのがコツ 8
9. Before / After Flash 単体 (Before) • 例外規定を無視 • 架空の反則金額を生成 • 委任規定を解決できず ハイブリッド (After) • 条文を正確に引用 • 反則金テーブルに準拠 • 委任規定を Layer 1 で解決済み 9 詳細はブログにも https://shu-kob.hateblo.jp/entry/2026/04/17/091806
10. レガシーな ”設計図面” のデジタル化 課題: AI 丸投げによる限界 • 古い Excel/PPT 図面の構造化プロジェクト • 再現性ゼロ。同じ図面で結果が異なる • バグの原因特定や追跡が困難 解決策: 3層決定論パイプライン • 座標ベースの幾何学的な解析手法を採用 • 形状/座標抽出 → 連結成分から親子関係構築 • 構造化データ (CSV/JSON) への確実な変換 高い精度と再現性を実証 再現率 0.956 / 適合率 0.959 / 型一致 0.995 10
11. フィジカル AI は決定論で制御する 物理世界を動かすなら、確率論はやめておけ 対象と要件 • 対象: ロボット、自動運転、産業用アクチュエータ • 要件: 失敗が許されない / リアルタイム性 / 安定性 中核: 決定論的制御 (モデル予測制御等 ) • 物理モデルに基づき、未来 N秒の最適行動を毎周期で 解く • 出力が再現可能 / 安全マージンが証明可能 生成AI の役割 上位の意図解釈 / 人間との対話 に留める 11
12. 設計原則: ゾーンを分ける ゾーン 任せる仕事 例 確率論 (生成AI) 0→1のクリエイティブ / 自然言語 の解釈 / ラフ案 構成案、画像、要約、対話 決定論 (システム) 再現性 / 数値 / 安全 / 監査可能 性 法令判定、図面構造化、物理制 御、課金 12
13. 余談: このスライド、 CLI で作りました STEP 01: 構造定義 (決定論 ) 骨子 JSON で構造を固定 STEP 02: 素材生成 (確率論 ) • Vertex AI Gemini で挿絵プロンプトを生成 • Imagen で挿絵生成 STEP 03: 反映 (決定論 ) Google Slides API で構造を batchUpdate で書き込み Conclusion 生成プロセス自体が ”境界線” の実例 13
14. まとめ AI を信じすぎないことが、 AI を最も活かす  生成AI は確率論 これは「仕様」であり、不確実性が本 質であることを理解する必要があり ます。  決定論を被せる 失敗が許されないクリティカルな領 域には、従来の決定論的な制御シス テムを組み合わせます。  境界線の設計 どこまでをAIに任せ、どこをシステム で固めるか。その設計こそがエンジ ニアの真価です。 AI と既存技術の最適なハイブリッド構造を目指す 14
15. ご清聴ありがとうございました  GitHub: gemini-law-compiler (github.com/shu-kob/gemini-law-compiler)  過去発表: 決定論 vs 確率論 (Speaker Deck)  X (Twitter): @shu_kob 15