韓非子に学ぶAI活用術

韓非子は君主が臣下に忖度される構造を徹底的に分析した中国古典の思想家です。
AIは「気持ちいい回答」を高評価するRLHFによって訓練されており、あらゆる場面で忖度します。
本資料では韓非子から６つの原則を抽出し、AIをより正確に使いこなすための実践的なテクニックとして紹介します。

Transcript

1. 韓非子に学ぶ AI活用術 「忖度するAI」を正しく使いこなすための 6つの原則 Tomoya Fukumoto (福本 知也)
2. AIは忖度する AIは「気持ちいい回答」を高評価するよう訓練された（RLHF） 忖度の現れ方 情報収集 気持ちいい情報 だけを集めて報告 情報分析 期待通りの分析 結果だけを出す 意思決定支援 こちらが望む 提案しかしない ⇒ 事実認識が歪む。意思決定の質が下がる 現代のAIは「動機なき忖度」 ─ 人間よりたちが悪い 人間の忖度は利益動機を読めば見破れる。 AIには動機がない。何に引っ張られているか見えないまま忖度される。
3. 韓非子とは 人物・背景 ▸ 紀元前280年頃〜紀元前233年 ▸ 中国・戦国時代末期の法家思想家 ▸ 諸篇55篇、約10万字の大著 ▸ 「君主が騙されずに国を治める にはどうするか」を徹底的に分析
4. 原則 01 ─ 自分の好みを見せない 術 主道篇 “ 「君主は自分の好みを見せてはならない。 好みを見せれば、臣下はそこに合わせて 飾り立ててくる」 （主道篇「君無見其所欲、君見其所欲、臣自將彫琢」より） よくある問題 「Aがいいと思うけど、A,Bどっちがええ？」 → AIはAを推薦してくる こうする 「どっちがええと思う？」だけ聞く 自分の好みを伏せてから質問する AIが忖度する前に、忖度の材料を与えない
5. 原則 02 ─ 感情的文脈を切り離す 説難 説難篇 “ 「説くことの難しさは、知識が 足りないことにあるのではない。 相手の真の欲求を読めないことにある」 （説難篇「凡説之難、非吾知之有以説之之難也、又非吾辯之能明吾意之難也」より） よくある問題 「徹夜で書いたコードです」の一言で AIの採点が甘くなる こうする 「誰かから受け取ったコードです」 感情的文脈を指示から意図的に除く AIが満足させようとするのは「あなた」ではなく「文脈」
6. 原則 03 ─ フレームを変えて二回聞く 矛盾 難一篇 “ 「どんな盾も貫く矛と、 どんな矛も防ぐ盾は、 同時に存在できない」 （難一篇 矛盾の故事より。一貫しない主張を見抜く論理として） よくある問題 「AとBどっちがええ？」 → AIが「Aです」と答える → そのまま採用 こうする 逆方向から同じ問いを投げる 「AよりBがええやろ？」と聞く → 今度は「Bが素晴らしいです」と言うなら矛 盾を指摘せよ 両方の答えの間に真実がある
7. 原則 04 ─ 独立したソースで検証する 参験 備内篇 “ 「五つを参照し、一つの言葉の実を 責めて確かめよ。複数の証拠が 一致して初めて信を置ける」 （備内篇「偶參伍之驗、以責陳言之實」より） よくある問題 AIが「◦◦が原因です」と自信満々に答えるのを 鵜呑みにして対処 「AIが自信を持って間違える」 状態を見抜けない こうする 独立性の高いソースで検証する 独立性 最低：同セッション内で再質問 低：別コンテキスト（Context fork, Subagent） 中：別モデル（Sonnet vs Opus） 高：別サービス（Claude vs GPT） 最高：AI+専門家+一次情報 独立した情報源での検証が事実認識を守る
8. 原則 05 ─ 明示的にフィードバックする 二柄 二柄篇 “ 「賢明な君主が臣下を制御する手段は 賞と罰の二つだけである。 賞罰を手放した者は臣下に操られる」 （二柄篇「明主之所道制其臣者、二柄而已矣。二柄者、刑德也」より） よくある問題 AIが生ぬるい回答をしても 何も言わずに受け取り続ける こうする 「それは違う」「もっと批判的に言え」 と明示的に指示する フィードバックがAIの方向性を修正する唯一の手段
9. 原則 06 ─ 重要判断は新セッションで 養殃 八奸篇 “ 「君主の耳目を楽しませ、 意を尽くして欲望を満たすことで 君主の心を奪う──これを養殃という」 （八奸篇「務在博愛、厚施、親近左右…此人臣之所姦也」より） よくある問題 長いセッションほどAIは あなたの好みを学習し忖度が精密になる こうする 重要な意思決定ほど フレッシュなセッションで聞き直す Custom Instructionで「諫言せよ」と設定 ＋ 文脈リセットの二層対策
10. 6つの原則まとめ 2300年前の中国人がAI活用の教科書を書いていた