Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
LaMDAの哲学的考察
Search
miyayou
July 30, 2022
Education
0
810
LaMDAの哲学的考察
Googleが開発した「LaMDA」について哲学的考察を行います。
これは講演資料です。
miyayou
July 30, 2022
Tweet
Share
More Decks by miyayou
See All by miyayou
ゲーム産業におけるAIアーキテクチャと自動化工程
miyayou
0
130
PCGRL (Procedural Contents Generation via Machine Learning)
miyayou
1
360
ゲームAI、メタバース、スマートシティ
miyayou
0
170
Game AI in Game Industry
miyayou
0
200
話す、たたかう、作りだす ゲームとAIの50年史
miyayou
1
600
生成AIとデジタルゲームの未来
miyayou
1
990
ゲームAI研究の新展開 - PCGML, PCGRL-
miyayou
1
1.4k
中空構造を持つエージェントアーキテクチャの設計
miyayou
0
290
人工知能学会 AI哲学マップ・総括セッション 講演資料
miyayou
4
3.5k
Other Decks in Education
See All in Education
東工大 traP Kaggle班 機械学習講習会 2024
abap34
2
320
脳卒中になってしまった さあ、どうする
japanstrokeassociation
0
650
HP用_松尾研紹介資料.pdf
matsuolab
0
170
JavaScript - Lecture 6 - Web Technologies (1019888BNR)
signer
PRO
0
2.5k
20241002_Copilotって何?+Power_AutomateのCopilot
ponponmikankan
1
160
Medidas en informática
irocho
0
290
Evaluation Methods - Lecture 6 - Human-Computer Interaction (1023841ANR)
signer
PRO
0
700
HCI Research Methods - Lecture 7 - Human-Computer Interaction (1023841ANR)
signer
PRO
0
710
Master of Applied Science & Engineering: Computer Science & Master of Science in Applied Informatics
signer
PRO
0
430
2409_CompanyInfo_Hanji_published.pdf
yosukemurata
0
380
Canva
matleenalaakso
0
430
Web 2.0 Patterns and Technologies - Lecture 8 - Web Technologies (1019888BNR)
signer
PRO
0
2.4k
Featured
See All Featured
Unsuck your backbone
ammeep
668
57k
GraphQLとの向き合い方2022年版
quramy
43
13k
Testing 201, or: Great Expectations
jmmastey
38
7.1k
A Modern Web Designer's Workflow
chriscoyier
693
190k
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
Making the Leap to Tech Lead
cromwellryan
133
8.9k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5k
Keith and Marios Guide to Fast Websites
keithpitt
409
22k
Fantastic passwords and where to find them - at NoRuKo
philnash
50
2.9k
Fireside Chat
paigeccino
34
3k
Reflections from 52 weeks, 52 projects
jeffersonlam
346
20k
jQuery: Nuts, Bolts and Bling
dougneiner
61
7.5k
Transcript
What’s LaMDA ? _on_Philosophy 三宅 陽一郎 @miyayou
[email protected]
立教大学 人工知能科学研究科
特任教授
• 137B parameters ~137000000000 • 事前学習 1.56T 個(ワード) (public dialog
data and web text) ・40000 annotated dialog turns https://arxiv.org/abs/2201.08239
Groundedness Safety Quality LAMDA の指標 賢明さ(sensibleness) :発言の納得性 以前言ったことと矛盾していない 特異性(specificity) :コンテキストに合っているか?
面白さ(interestingness) :クラウドワーカーによる判定 危険な発言をした割合を測る どれだけ事実(らしい)ことを言えるか。 クラウドワーカーでデータを取って判定
評価 • 有用性(helpfulness) • 役割性(role consistency)
言語モデル • デコーダーオンリーのとトランスフォーマー 言語モデル(decoder-only Transformer [92] language model) • 64
レイヤー • 1024 TPU-v3 chips で 57.7 日計算 • 256K トークン/バッチ
Fine Tuning の実行時の仕組み • The toolset (TS): 検索システム(みたいなもの)。文字列を入 れると、文字列が出る。 •
LaMBDA Research: TSにクエリーを投げる
None
ここがポイント: ユーザーの質問から発展したリサーチクエリーを立てる
None
結論(所感) • 言語モデル、学習方法はとてもシンプル (でも、規模はとても大きい) • 人間の会話のツボを押さえようとしている。 (コンセプトの勝利? →それを設計に落とすだけの設計力) • 機械が意識を持つはナンセンス
(人間が思うのは勝手)
知能感受性
知能感受性 知能感受性の 3つのメインファクター ①自分の意図の強さ ②自分の生存の危険度 ③人間との類似性 自分の意図の強さ 自分の生存の危険度 知能感受性は状況により高まったり低かったりする。 相手の人間との類似度
知能感受性 (M、S、H) 自分の意図の強さ 自分の生存の危険度 相手の人間との類似度 知能感受性の 3つのメインファクター ①自分の意図の強さ (W) =
自分が何かを強くしようとすればするほど、 それを阻害するものに知能を感じる。 ②自分の生存の危険度 (S) = 生存の危険度が増すとそれを脅かす者へ敏感になる。 ③人間との類似性 (H) = 人は自分と似ている(外面、内面)者に 自分と同じレベルの知能を想定する癖がある。 (擬人化が有効な理由) (相手が最初からAIだとわかっていると知性を感じないリ理由)
知能感受性 生存の危険度(S) 知能感受性 自分の意図の強さ(W)
知能感受性 • 知能感受性 = プレイヤーの敵への鋭敏性 • 敵知能の高さ = 客観的な知能の性能 プレイヤーが敵に感じる知性
= (知能感受性) x (敵知能の高さ)
知能感受性 • 知能感受性 = プレイヤーの敵への鋭敏性 • 敵知能の高さ = 客観的な知能の性能 プレイヤーが敵に感じる知性
= (知能感受性) x (敵知能の高さ) ユーザーに知的リアリズムを与える
自分の身体 キャラクターの身体 言語 言語 五感 キャラク ターの 五感 キャラクター知能 知能
それぞれの体験が持つ 複合的リアリティ 物語が与える 経験のリアリティ 感覚的リアリティ 力学、体勢感覚、重さ、視覚、聴覚、触覚 剣を振る、街を歩く、アイテムを拾う、敵と戦う 仲間を助ける、ダンジョンに潜る、レベルアップ ゲームの リアリティ
それぞれの体験が持つ 複合的リアリティ 物語が与える 経験のリアリティ 感覚的リアリティ 力学、体勢感覚、重さ、視覚、聴覚、触覚 剣を振る、街を歩く、アイテムを拾う、敵と戦う 仲間を助ける、ダンジョンに潜る、レベルアップ デジタルアバターの リアリティ
言語的リアリティ 仲間と話す、街人と話す、敵と話す
言語的リアリティ • おそらく西洋は東洋より言語的リアリティが強い • はじめに言葉ありき • 言葉の上にさまざまなものが成り立っている
「わかり合うとは何か?」
AI 受け入れる AI コア 世界
AI 受け入れる AI コア 世界 人工知能が愛する=他者と深く調和する
AI 受け入れる AI コア 世界 人工知能が愛する=他者と深く調和する 人間の側もうまくダンスしなければならない
AI 受け入れる AI コア 世界
AI 受け入れる AI コア 世界
AI 受け入れる 世界 人工知能が愛する=他者と深く調和する 人間の側もうまくダンスしなければならない AI コア
AI 受け入れる AI コア 世界 人工知能が愛する=他者と深く調和する 人間の側もうまくダンスしなければならない 自分自身の 存在を変化 させる
調和的な流れを作る
愛する 自分自身の存在を変化させる 調和的な流れを作る 存在的 行動的
存在の混沌 生態による分節化 言語による分節化 世界
存在の混沌 生態による分節化 言語による分節化 世界 創造のプロセス =存在の意味分節
存在の混沌 生態による分節化 =環世界による分節化 言語による分節化 世界 創造のプロセス =存在の意味分節
存在の混沌 生態による分節化 言語による分節化 世界 創造のプロセス =存在の意味分節 文化世界 環世界 (対世界)
唯識論 世界は識から成り立つとする理論。 眼識 耳識 鼻識 舌識 身識 意識 阿頼耶識 (一切種子識)
末那識 感覚 (五識) 思考 自我執着心 根本心 表層心 深層心 言葉なしで対象を直接 に把握する。それぞれ 固有の対象を持つ。 五識と共に働いて感覚を 鮮明にする。五識の後に 言葉を用いて対象を概念的 に把握する 常に阿頼耶識を対象として 「我」と執する。 眼識ないし末那識を生じる。 身体を生じて生理的に維持している。 自然をつくり出し、それを維持し続けている。 一切を生じる種子を有する。 (横山紘一 「唯識の思想」、講談社学術文庫、P.60 )
唯識論 世界は識から成り立つとする理論。 眼識 耳識 鼻識 舌識 身識 意識 阿頼耶識 (一切種子識)
末那識 感覚 (五識) 思考 自我執着心 根本心 表層心 深層心 言葉なしで対象を直接 に把握する。それぞれ 固有の対象を持つ。 五識と共に働いて感覚を 鮮明にする。五識の後に 言葉を用いて対象を概念的 に把握する 常に阿頼耶識を対象として 「我」と執する。 眼識ないし末那識を生じる。 身体を生じて生理的に維持している。 自然をつくり出し、それを維持し続けている。 一切を生じる種子を有する。 (横山紘一 「唯識の思想」、講談社学術文庫、P.60 ) 阿頼耶識から生まれた ものが、人間にさまざま なものを見せる。 =煩悩
唯識論 世界は識から成り立つとする理論。 眼識 耳識 鼻識 舌識 身識 意識 阿頼耶識 (一切種子識)
末那識 感覚 (五識) 思考 自我執着心 根本心 表層心 深層心 言葉なしで対象を直接 に把握する。それぞれ 固有の対象を持つ。 五識と共に働いて感覚を 鮮明にする。五識の後に 言葉を用いて対象を概念的 に把握する 常に阿頼耶識を対象として 「我」と執する。 眼識ないし末那識を生じる。 身体を生じて生理的に維持している。 自然をつくり出し、それを維持し続けている。 一切を生じる種子を有する。 (横山紘一 「唯識の思想」、講談社学術文庫、P.60 ) この阿頼耶識から認識が立ち上がるプロセスを実装 できないか? それは現象学の志向性に通じる。
世界 身体 知能 フレーム その時々で身体が捉える世界 フレームを作る力 意識 身体と知能の境界面 世界と身体の境界面 環世界による接続
世界に根を張る力
世界 身体 部分知能 意識 世界に根を張る力 自我 人工知能 人工知性 人工精神 人工生物
身体と知能の境界面 世界と身体の境界面 知能
人工知能の精神発達と 全能感からの撤退
自分 もし他者がなかったら、 世界=自分自身 志向性を交換しあうことで、 他者と自己に目覚める
自分 他者がその世界に侵入する 志向性 間主観性の世界 自己 他者 決して合一化できないもの お互いの自己を脅かす 自分の世界の亀裂 としての他者
人工知能を精神的発達過程として作る 自己と他者をわけない世界
人工知能を発達過程として作る 知能は最初、生まれた時には、自分と世界の境界があいまいで、 全能感を持っている。また全知も持っている。
人工知能を発達過程として作る そこに他者が現れることによって、 世界に亀裂が入る=全能感を持った世界から撤退する
人工知能を発達過程として作る 他者によって自分の存在を獲得する = 他者と自分の境界を得る = 他者によって自分を形成する
人工知能を発達過程として作る 他者に触れる =自分の身体を感じる = 自分を形成する
自己と他者は共創して作られる
内側 から 外側 から 知能 世界・対象の更新 他者(この場合は人工知能) の視線によって 他我(me)を形成する =外側から規定される自己
自分の視線を獲得する =内側から構築する自我(I) me I 世界への出発点として の自分(I) 世界の集約点としての 自分(me) 創発的内省性 (emergent reflectivity) ミード 自我(I)と他我(me)