Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
人間はどの意思決定を手放せるのか
Search
Yoshitaka Kawashima
September 16, 2026
Technology
14k
22
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
人間はどの意思決定を手放せるのか
技術的負債に向き合うConference 2026 の発表資料です。
ぜひ最後までお読みください。
Yoshitaka Kawashima
September 16, 2026
Transcript
36 slides
人間はどの意思決定を 手放せるのか kawasima
None
https://agilejourney.uzabase.com/entry/2025/12/11/103000
None
None
AI以前からあった 「成果物の内部まで理解しているわけではない」問題 が、なぜ今クローズアップされるのか?
時間をかければ計測できていたものが 少なくとも計測できている体のもの AIの出力スピード/量についていけず 計測できなくなっている
compile ✓ tests ✓ lint ✓ CI ✓ architecture ✓
maintainability ✓ domain semantics ✓ future evolvability ✓ 計測可能性の谷
大きな粒度の仕事をAIに任せても そこで行われている 様々な意思決定 その効果・影響を 計測できない
例題 既存のECシステムに、 「ユーザが注文をキャンセルできるようにしたい」 という要望が上がった。 コーディングエージェントに、 「 注文キャンセルを実装して。決済済みの場合は返金して、在庫も戻して。 」 と依頼するとどういうことが起こるのか?
「注文キャンセルを実装して。決済済みの 場合は返金して、在庫も戻して。」 を受けて、実装するコーディングエージェ ントには多くの 性質の異なる意思決定 が含 まれている。
次のようなコードを出力してくるかもしれない
暗黙的に次のような意思決定がされている • 返金 → 在庫戻しの順序にする • payment.refund() はDB transactionと同じ意味で扱っている •
出荷済み注文もキャンセル可能である • refund成功後のDB rollbackは許容できる • 在庫戻しは必ず一度だけ起きる
意思決定構造はDAG 多くの決定が依存しているものほど、重 要な意思決定になる。 だが、この構造は見えにくい。
現状よく見られる人間/AIの責務分離ライン DAGをLeafから辿り、その決定を 委譲したら品質特性が評価できな くなるラインが、その人・組織が AIに任せられる領域
委譲できる = 理解しなくても正しいと判定できる 委譲できる2つの条件 • Evaluability 成果物の内部を理解しなくても外部基準によって正しい と判定できるか • Controllability
間違っていたときに、その被害を制御できるか
Evaluabilityが高くてもControllabilityが低いと委譲しにくい 例えば: 本番環境のデータマイグレーションのSQLを作って実行してもらう。 Evaluability Controllability 実行結果が正しいかは確認用 のSQLを実行すれば簡単に確 かめられる 間違ったDDLやデータ書き換 えが発生した時点で即、大問
題である
Controllabilityをあげる仕組み • Feature toggle や Expand and Contract など、デプロイとリリース を分離する
• Progressive Exposure: カナリアリリースやBlue / Green • 間違いを局所に閉じ込める: BulkheadやCircuit Braker • 実行済みでも戻せる: Recovery, Compensation
Evaluabilityのために多大な工数をかけては経済合理性がない Resilienceな方向が当面の主流になりそう… • • 間違いは基本的に受容して失敗に気づいたら修正したらいい (OpenAI; かなり意訳) E2Eの重い評価を毎回回すのは解析・運用コストが高すぎる。中間ステップ を検証する軽量な行動評価に分割してローカルで高速(数秒)に回す。 (Google)
まとめ • 人間が手放せる意思決定領域は、EvaluabilityとControllabilityが高いもの • Evaluabilityが高く保たれていれば、AIが作る成果物の内容を人間が理解し なくても良い (ハーネスエンジニアリングの基礎概念) • Controllabilityを高める仕組みは、これまでのソフトウェアエンジニアリン グの蓄積が使える
• とはいえEvaluabilityを高めるのにコストがかかり過ぎたり、何回も開発ルー プ回さなきゃいけないとしたら経済合理性が無くなってしまう
…と似たような話は 今日も世界中のどこかで誰かがしていることだろう
Evaluability 成果物の内部を理解しなくても外部 基準によって正しいと判定できる それが難しいんだよー💢
Evaluabilityについての過信 • AIが間違いを起こさないような仕様を書く 最初からそれが書ければ苦労しない • ドメインエキスパートと連携しながら正しい仕様を書く そんな人がいるなら連れてきてほしい • 開発ループを回し間違いを修正していけば、正しい結果に近づく 何の基準もない中で、何回この開発ループを回せば成功いいのでしょうか…
そもそも上位の意思決定項目は 何を持って正しいとするか を決めることが成果物であり、委譲ができない!
頭打ちなのか…
None
限界突破のために共有メンタルモデル 上位の意思決定をモデルとして書き表す このモデルをAIと協働で速く作る 下位の意思決定のEvaluatorとして使う そんなことが…
できる
Souther 正しい(と言える)仕様を最初から書くことは誰に もできないので、モデルとexampleを繰り返しな がら作っていく モデル 業務で扱うデータと振る舞い example 実際に振る舞いを実行した時 に期待する具体的な入出力 exampleはモデルと同時に書き、検証される
https://souther-lang.org
Southerでまず雑にモデルを書く (data/behaviorをザッと書き出す)
exampleの素を生成 → 期待する結果を人間が埋める モデルの表現力に対して足りていないexampleを Southerが解析する
仕様の解像度があがり、モデルを修正したくなる
モデルを修正するとコンパイルが通らなくなる…のでexampleを加筆修正
Souther以後の世界ではテストを先に書くか/後に書くか という概念はなくなる モデル 業務で扱うデータと振る舞い example 実際に振る舞いを実行した時 に期待する具体的な入出力 十分なモデルとexampleを書き終わった瞬間 本当の意味での仕様を満たした動くドメインモデルが出来上がっている
残った外側 (ControllerだったりDBアクセスだったり) は それこそコーディングエージェントの得意分野なので 「Southerモデル満たすように作って」と 委譲してあげれば良い。
None
More Decks by Yoshitaka Kawashima
See All by Yoshitaka Kawashima
履歴を持つデータの設計
kawasima
59
27k
Other Decks in Technology
See All in Technology
人の努力に頼らないセキュリティをエンジニアリングする在り方 / An approach to engineering security that does not rely on human effort
carta_engineering
0
220
3文字略語に騙されない! 世界一わかりやすい『EDR』超入門
kamadamakoto
1
270
E2E Test というハーネス — AI時代の自動テスト民主化
daishukojima
10
5.7k
Agent Harnessはどう作る?事例から学ぶAI Agentの設計思想
sergicalsix
0
350
思考過程から秘密が漏れる:Amazon Bedrock上のKimi K3を5つの方法で攻めたら、25回中22回漏洩した話
yama3133
1
170
Biohub - Cell Tracking During Development 5th place solution
rist
0
180
WasmをRustにする技術
sansantech
PRO
1
120
「個社」ではなく「業界」の課題を解く AI 対話開発 ー 価値を広げる設計と、価値を守るエンジニアリング ー
ivry_presentationmaterials
3
700
個人ASを取得して、自宅Kubernetes上のVMをグローバルIPで公開した話
munenick
0
210
会社説明資料_最新版
demaecan
0
32k
【Oracle AI SPOTLIGHT ウェビナー】【特別開催:日本語で解説!】Oracle AI World 2026 最新情報フィードバック
oracle4engineer
PRO
1
280
信頼性を犠牲にせず、PR マージからデプロイまで人の介入を完全にゼロにするまでの道のり
knwoop
1
480
Featured
See All Featured
Beyond borders and beyond the search box: How to win the global "messy middle" with AI-driven SEO
davidcarrasco
3
300
How to Build an AI Search Optimization Roadmap - Criteria and Steps to Take #SEOIRL
aleyda
1
2.3k
How Fast Is Fast Enough? [PerfNow 2025]
tammyeverts
3
980
Winning Ecommerce Organic Search in an AI Era - #searchnstuff2025
aleyda
2
2.2k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
254
23k
Agile that works and the tools we love
rasmusluckow
331
22k
JAMstack: Web Apps at Ludicrous Speed - All Things Open 2022
reverentgeek
1
680
Lightning Talk: Beautiful Slides for Beginners
inesmontani
PRO
2
850
Bash Introduction
62gerente
615
220k
Principles of Awesome APIs and How to Build Them.
keavy
128
18k
A Soul's Torment
seathinner
9
3.9k
Agile Actions for Facilitating Distributed Teams - ADO2019
mkilby
0
340