AI科学の何が“哲学”の問題になるのか ～問いマッピングの試み～

高木史郎さんと共同で開催した、2024.4.4オンライン勉強会「AI科学を哲学する？」の丸山資料（公開版）です。

Transcript

1. 2024.4.4 勉強会資料 話題提供： AI科学の何が“哲学”の問題になるのか ～問いマッピングの試み～ 2024.4.4 丸山隆一 @rmaruy 1 2024.4.4 オンライン勉強会「AI科学を哲学する？」※公開版資料 ※高木史郎さんとの共同主催
2. 2024.4.4 勉強会資料 勉強会「AI科学を哲学する？」開催趣旨 2 • AIが科学に入り込んでいく時代、科学はどう変わっていくのかについて、どんな論点があ りえ、誰が、どこで、どんな議論を行っているのか？ • 高木（独立研究者）×丸山（フリー編集者）であれこれ議論するなかで、異なる視点をも つ方（特に科学哲学を含む種々のメタサイエンスの専門家）と考えたく本勉強会を企画。 6月の科学基礎論学会総会シンポジウム「AI は科学をどう変えるのか？」の予習にも？ ※ 狭義の「哲学」に限らず、様々な視点から考えることを意図しています。
3. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
4. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
5. 2024.4.4 勉強会資料 https://www.r-ccs.riken.jp/sympo/fugaku- aiforscience2024/ https://newswitch.jp/p/3 3375 https://www.anl.g ov/ai-for-science- report https://data.europa.eu/d oi/10.2777/401605 第3次AIブームのなかで… 「AIをどう科学で使えるか」を誰もが考える時代。
6. 2024.4.4 勉強会資料 「深層学習が引き起こしつつあるこうした変化の波は、今後科学の個別的実践 や方法論を変えていくだけでなく、「科学とは何か」という、科学自体の規定 とわれわれの科学観にも影響を与えざるをえない。」 ──── 大塚淳 2023 p.75 どう変わるのか？ どう変えることができるのか？ 大塚淳 (2023) 深層学習後の科学のあり方 を考える, 鈴木貴之編著『人工知能とどう つきあうか：哲学から考える』収録, 勁草 書房 その先にある問い 「AIの科学研究への導入は、「科学的発見とは何か」、「科学的理解とは何 か」、 「科学の価値とは何か」といった問題を改めて考え直す機会を提供す る。」「「AI時代の科学哲学」が、 いま求められているのである。」 ──── 呉羽・久木田 2020 p.133 呉羽・久木田 2020「AIと科学研究」『人 工知能と人間・社会』所収
7. 2024.4.4 勉強会資料 高木・丸山の関心（本勉強会の文脈に沿って単純化したもの） 7 神経科学が脳をどこまで解明す るのか見届けたい 自律的な人工研究者を作りたい
8. 2024.4.4 勉強会資料 8 科学・研究はどのようなタスクで 構成されているのだろうか？ AIが科学をすると、科学という 営みは総体としてどう変わる？ AIは神経科学にどんなブレイク スルーをもたらすのだろう？ それを何十年も議論し てきたのが科学哲学 「AIが科学をすること」の可能性と影響を、科学哲学（など）は誰がどのように議論してい るのだろうか。 科学の方法等について、科学哲学 はどんな議論を蓄積してきた？ AIが最近すごい 自律的な人工研究者を作りたい 神経科学が脳をどこまで解明す るのか見届けたい 高木・丸山の関心（本勉強会の文脈に沿って単純化したもの）
9. 2024.4.4 勉強会資料 AI科学に対する様々な関心 9 今ある科学 未来のAI科学 どうなっていく？ どこまでできる？
10. 2024.4.4 勉強会資料 10 科学AIを「作る」人 例：AI/ML研究者 科学にAIを「使う」人 例：科学者 科学から受益する人々 例：社会を構成するみんな 科学を探究する人 例：科学哲学者、その 他のメタサイエンス的 関心を持つ人 今ある科学 未来のAI科学 AI科学に対する様々な関心
11. 2024.4.4 勉強会資料 11 科学AIを「作る」人 例：AI/ML研究者 科学にAIを「使う」人 例：科学者 科学から受益する人々 例：社会を構成するみんな 科学を探究する人 例：科学哲学者、その 他のメタサイエンス的 関心を持つ人 今ある科学 未来のAI科学 →丸山発表の スタンス AI科学に対する様々な関心
12. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
13. 2024.4.4 勉強会資料 AI科学の行方が気になる 13 • AI科学の話はXで盛り上がる。楽しい。 • しかし「私はこう思う」「こうなってほ しい」という印象論が多く、よい議論が あっても流れていく。残念。 ↓ • より体系的に、蓄積可能な議論をしてい る科学を語るプロたちがいるはず。 • その論文・書籍を読んで、「骨太」な議 論を共有可能にしたい。
14. 2024.4.4 勉強会資料 やりたいこと 14 いろいろな問いがある • AIに創造的な科学的発見ができるか？ • AIは科学的な問いを発見できるか？ • AIにパラダイムシフトは可能か？ • 科学的知識の正しさを、AIが判定するようになるのか？ • AIは科学的理解の主体になれるか？ • AI科学は人間の科学者の仕事を奪うのか？ etc…etc… 本発表では、 • これらの問いを、何らかの構造のもとで整理したい。 • その中で目についた文献をいくつか紹介したい。 →→「こういうのもあるよ」という示唆をいただきたい。
15. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
16. 2024.4.4 勉強会資料 問いを付置するマップの種類 16 マップを作ろうとしたが……一枚に収めるのは無理だった。 そこで、3つの方向性から考えてみた。 • 整理（A）研究パイプラインに沿って考える • 整理（B）科学哲学の論点※に沿って考える • 整理（C）社会の中の科学の視点から考える それぞれのなかに「問い」が見いだせる。
17. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
18. 2024.4.4 勉強会資料 （A）研究パイプラインに沿って考える 18 Wang, Hanchen et al. “Scientific discovery in the age of artificial intelligence.” Nature 620 (2023): 47-60. Takagi Under review The Understanding Science Flowchart (text description) 研究のプロセスをタスク分解 https://www.jst.go.jp/crds/report/CRDS-FY2021-WR- 01.html 資料：嶋田・丸山 https://www.mext.go.jp/content/20230620-mxt_kiso-000030314_3.pdf
19. 2024.4.4 勉強会資料 19 Hope, T., Downey, D., Etzioni, O., Weld, D. S., & Horvitz, E. (2023). A Computational Inflection for Scientific Discovery. • 計算的手法が研究者をアシストできる場面を列挙： ◦ １）注目すべき分野の認定 ◦ ２）問題の特定と優先順位付け ◦ ３）方向性の決定（アイデアの形成など） ◦ ４）文献の検索とレビュー ◦ ５）学習、理解、意味づけ ◦ ６）実験、分析、行動 ◦ ７）研究コミュニケーション • 全段階で「タスクに応じた知識検索（task-guided knowledge retrieval）」が有用だとし、人間の認知的ボトル ネックをAIで補助する支援サービスを展開。 （A）研究パイプラインに沿って考える Q. 研究パイプラインのどの部分をAIでアシストできるか？ https://arxiv.org/pdf/2205.02007.pdf
20. 2024.4.4 勉強会資料 20 Messeri, L., Crockett, M.J. Artificial intelligence and illusions of understanding in scientific research. Nature 627, 49–58 (2024). • 人類学者と認知・神経科学者が、AI科学がもたらしうる問題を整理。 ◦ AI活用への期待を、文献を読む「Oracle」、実験等を肩代わりする「Surrogate」、データを 分析する「Quant」、研究を評価する「Arbiter」としてのAIに区分。 ◦ それぞれがもたらしうる「認識のリスク epistemic risk 」を俯瞰。 • AIの利用により、AIがもたらす知識を過剰評価する「理解の幻想」や「科学のモノカルチャ ー化」を助長する危険性を指摘。 （A）研究パイプラインに沿って考える Q. 研究パイプラインにAIを用いることのリスクは何か？
21. 2024.4.4 勉強会資料 21 （A）研究パイプラインに沿って考える Q. 研究パイプラインのどの部分をAIで自動化・自律化できるか？ Takagi, S. (2023). Speculative Exploration on the Concept of Artificial Agents Conducting Autonomous Research. ArXiv, abs/2312.03497.
22. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
23. 2024.4.4 勉強会資料 （B）科学哲学の論点に沿って考える 科学哲学についての丸山の雑な理解をもとに… • 科学哲学は「発見の文脈」と「正当化の文脈」を伝統的に区別してきた。 ◦ 20世紀、分析哲学系の科学哲学では「正当化」のみを論理的な分析の対象としようとする提案 （ライヘンバッハ→ポパー）。ただし、当時からポアンカレやパースは発見を議論していたし、 クーンは二つは分けられないと主張。AIによる科学的発見に関しては20世紀末のH. Simonが精 力的に取り組み、近年は認知科学等との連携で哲学からの議論がある。 • 科学における「理解」の役割についても、近年議論が進んできた。 ◦ 「説明」だけでなく、理解も重要という認識に。 ◦ cf. de Regt “Understanding Scientific Understanding” 丸山メモ • 科学における「価値判断」の役割についても、近年議論が進んできた。 ◦ cf. 松王政浩『科学哲学からのメッセージ』森北出版 第3,6章
24. 2024.4.4 勉強会資料 （B）科学哲学の論点に沿って考える 24 発見 discovery 正当化 justification 理解 understanding 価値 value
25. 2024.4.4 勉強会資料 （B）科学哲学の論点に沿って考える 25 発見 discovery 正当化 justification 理解 understanding 何がよい発見か、知識として認めら れるかには価値判断が伴う 科学者は「理解」する ことを目指す 理解可能性は科学を 導く価値の一つ 発見されたアイディア・仮説は 正当化を経て科学的知識に。 価値 value
26. 2024.4.4 勉強会資料 （B）科学哲学の論点に沿って考える 26 発見 discovery 正当化 justification 理解 understanding 価値 value 科学的実在 科学的創造性 科学の進歩 新規性 novelty 真理 truth 説明 explanation 概念の 創出 Analogy モデルとシミュレーション 因果 客観性
27. 2024.4.4 勉強会資料 （B）科学哲学の論点に沿って考える 27 発見 discovery 正当化 justification 理解 understanding 価値 value 科学的実在 科学的創造性 科学の進歩 新規性 novelty 真理 truth 説明 explanation 概念の 創出 Analogy モデルとシミュレーション 因果 Q. AIは創造的な発見ができるの か？ Kureha 2023：creativityの意味を分析した うえで考察。 Q. AIは科学的な発見をどう効率 化するか？ Nielsen “Reinventing Discovery” Q. AIによる知識の正当化とは？ 大塚（2023） Q. AI科学の時代に「理解」は科 学の目的であり続けるのか？ 高橋（2019）「科学と技術の離婚」 Q. AIは科学的理解の主体になれるか。 Krenn＋(2022): ”scientific understanding test”を提案。 Q. 科学の進歩とは何か？科学の目的とは何か Q. AIは人間が見つけられな いものを発見できるか？ 発見の問題と理解の問題の違いに ついて：Krenn＋(2022) Q. AIの科学と人間の科学の「価値」は 整合できるのか？ Q. AIに新しい概念 を作れるのか？ 仮説生成 Abduction 客観性
28. 2024.4.4 勉強会資料 28 • 経験科学は「客観性と合理性とを旨とした帰納推論」を行う営みであり、 そこでは、統計学が「汎科学的コミュニケーション・プラ ットフォー ム」として科学的推論の客観性を担保してきた。 • しかし、深層学習は従来の統計学とは異なり、人が理解できなくても、予 測/制御が可能。人間不在の正当化を科学にもたらす可能性。 ◦ 予測が当たればよい/制御がうまくできればよいという「工学的プラグマ ティズム」 • 科学者の介在を必要としない正当化は、「「客観化」の極限的な姿」 ◦ 「科学についての考え方を反省する、良いきっかけ」に。 ◦ 「合理的なものは客観的であり、また民主的でもあるという近代科学の 理念自体、1つのドグマにすぎない」 大塚淳 (2023) 深層学習後の科学のあり方を考える, 鈴木貴之編著『人工知能とどうつきあうか』収録, 勁草書房. （B）科学哲学の論点に沿って考える Q. AI（深層学習）が知識を正当化するとき、科学はどう変わるか？
29. 2024.4.4 勉強会資料 29 • マーガレット・ボーデンの創造性の議論などに依拠した分析。 ◦ 結合的創造性、探索的創造性、変形的創造性：どのタイプの創造性について も、「AIによる創造的発見が原理的に不可能であるという意見には説得的な 根拠がない」 ◦ 「プログラムされているから創造性を持てない」とする「ラブレス夫人の反 論」を棄却。 • 一方で、「創造的発見を自動化する方法は未だ判明していない」 ◦ アイディアの結合や探索AIにも可能だが、価値あるものはなかなか生まれな い。 ◦ 「まず人間の創造性に関する認知科学や心理学の知見を地道に蓄積していく ことが有益」。 （B）科学哲学の論点に沿って考える Q. AIは創造的な発見はできるのか？ 呉羽・久木田 2020「AIと科学研究」『人工知能と人間・社会』所収 / 呉羽真 2018「Artificial Creativityの可能性と科学の未来」 丸山私見：鈴木宏明『類似と思考』などは関連が高そう→
30. 2024.4.4 勉強会資料 30 • 「AIが科学的理解に達した」ことのテスト （scientific understanding test）を提案。 ◦ AIを教師としてそのコンセプトを説明させ、その後、 生徒と教師による説明に区別がつかなければ合格とす るを提案。 • “An AI gained scientific understanding if it can transfer its understanding to a human expert.” Krenn, M.,et al. (2022). On scientific understanding with artificial intelligence. Nature Reviews. Physics, 4, 761 - 769. （B）科学哲学の論点に沿って考える Q. AIが科学を「理解」するとはどういうことか？ • AIは、科学的理解を3つの観点で支援しうる。 ◦ 1）計算的測定（実験では得られない情報を得る）、 ◦ 2）発想の源（人間の創造性拡張） ◦ 3）理解の主体（AI自体が理解する） ◦ 科学的理解についてはHenk de Regtらの理論を踏襲
31. 2024.4.4 勉強会資料 31 Barman, K.G., Caron, S., Claassen, T., & Regt, H.D. (2023). Towards a Benchmark for Scientific Understanding in Humans and Machines. ArXiv, abs/2304.10327. • AIによる科学的理解のためのベンチマークを提案。 ◦ Henk de Regtらによる、能力としての理解（主観的な要素ではなく）という立場。 • エージェント（A）が現象（P）をどの程度、科学的に理解したかは以下で測れる： ◦ (i) A は十分に完全なPに関する表現（representation）を持つ。 ◦ (ii) Aは内部整合的で経験的に妥当なPについての説明を持つ。 ◦ (iii) AはPに関する広い範囲の、反実仮想的な推論を正しく行うことができる。 • i )- iii) はそれぞれ「What-question＝知識問題」、「Why-qustion＝説明の問 題」、「こうでなかったら？ こうだったとしたら？＝反実仮想の問い」でテストす る。 • KrennらのUnderstanding transfer testの不完全さを指摘し、このベンチマークで補 完すべきだとする。 （B）科学哲学の論点に沿って考える Q. AIが科学を「理解」するとはどういうことか？
32. 2024.4.4 勉強会資料 32 （B）科学哲学の論点に沿って考える Q. AI科学は「理解」の意味をどう変えるか 呉羽・久木田 2020「AIと科学研究」『人工知能と人間・社会』所収 • 「世界についてのより深い理解をもたらすという認識的価値のウェイトは 減じていくだろう。… AIベース科学は、「異質な科学 alien science」を 生み出す可能性に加えて、「科学の疎外 alienation of science」をもた らす危険性をも有するのである。」p.156 高橋恒一（2019）「科学と技術の離婚」 • 「機械が獲得した「理解」が言語や数式などを用いて抽象化したレベルでも人間の認 知能力で把握出来ないものになったとしたら、それは「AIの科学」ではあっても人間 の科学ではなくなる」 • howを求めるテクノロジーと、「人間の理解」を求める科学は乖離していく。
33. 2024.4.4 勉強会資料 33 • AIのValue Alignment問題：AIの価値観を人間の価値観と整合させる問題。 • 科学における「価値」の議論がなされている。AIの科学と人間の科学のValue Alignment問題が今後出てくるのではないか。 ◦ ミクロなValue Alignment問題 → 個別の理論や論文のレベルで、AI科学者のアウトプッ トは人間の価値にかなうものか。 ◦ マクロなValue Alignment問題 → AIの科学への導入が、科学全体にとって人間にとって 望ましい科学をもたらすか、という問題。 • 一方、AI科学は人間が科学に求める価値も変えるはず。 • 人間が科学に求める「価値」の言語化が求められている？ ◦ AI一般に言われていることと完全に相似形。 ◦ 科学技術政策にとって核心的な問題。 （B）科学哲学の論点に沿って考える 科学のValue Alignment（価値整合）問題 このスライドは 丸山私見
34. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
35. 2024.4.4 勉強会資料 （C）社会の中の科学の視点から 35 https://www.mext.go.jp/content/20230620-mxt_kiso-000030314_3.pdf
36. 2024.4.4 勉強会資料 Q. AIに査読はできるか？ • レビュープロセスへのAI導入 • 研究例：LLMが科学論文や提案のレビューに役立つかのパイロットスタディ:Ryan Liu and Nihar Shah (2023) “ReviewerGPT? An Exploratory Study on Using Large Language Models for Paper Reviewing” Q. AIを研究評価に使える か？ • 種々の研究評価やグラント審査へのAI導入 • 実践例：中国では査読者の選定に一部AI導入 Cyranoski, D. (2019), “Artificial intelligence is selecting grant reviewers in China”, Nature, Vol. 569, pp. 316-317, • 研究例：英国の大学研究評価制度REFのレビューを試行的にAIで行うプロジェクト Thelwall et al. (2022). Can REF output quality scores be assigned by AI? Experimental evidence. Q. 科学コミュニケーショ ンはどう変わるか？ • ファクトチェックのためのツール • 平易な記事の自動生成 Q. 研究インテグリティ • 再現性・再生可能性の向上のためのAI活用 • 研究例：トラストマーカー有無の自動判定 Repita “Introducing Dimensions Research Integrity Powered by Ripeta” Q. AIは市民科学をどう変 えるか？ • 人間の集合知とAI活用の関係性は今後の焦点に。Rafner, Janet, et al. "Mapping Citizen Science through the Lens of Human-Centered AI." Human Computation 9.1 (2022): 66-95. （C）社会の中の科学の視点から考える 科学の制度・システムへの導入 研究評価やファンディングなど科学の社会的プロセスへのAI活用の議論・試行が進展。
37. 2024.4.4 勉強会資料 （C）社会の中の科学の視点から考える 科学の制度・システムにもたらすリスク AIを科学の制度に取り込むリスクも顕在化。 研究不正の高度化 • 論文の文章、図などの高度な捏造が容易に。 ✔ 研究例：AIを使った論文でのフェイク画像による不正についてのレビュー。Gu et al. (2022). AI-enabled image fraud in scientific publications. Patterns, 3(7), 100511. デュアルユース・犯罪 • AIによる薬物発見などがより容易に。 「浅い研究」の増加 • AI支援による論文の粗製濫造 研究評価の信頼性 • 研究評価に不信感が生まれる懸念 特定言語・文化への バイアス強化 • LLM寡占によるオープンアクセス阻害の懸念 • 科学の共通言語（リンガ・フランカ）としての英語を強化する可能性。 人手作業の増加 • かえって人手作業の種類と量を増やす可能性 ✔ 研究例：合成生物学分野でAI・ロボット導入がどのような作業を発生させている かをエスノグラフィーの手法で研究 Ribeiro, B. et al. (2023), “The digitalisation paradox of everyday scientific labour: How mundane knowledge work is amplified and diversified in the biosciences”, Research Policy, Vol. 52/1, p. 104607
38. 2024.4.4 勉強会資料 目次 1. 勉強会のモチベーション 2. 丸山が考えたいこと 3. 問いを付置する三つのマップ （A）研究パイプラインに沿って考える （B）科学哲学の論点に沿って考える （C）社会の中の科学の視点から考える 4. まとめ
39. 2024.4.4 勉強会資料 三つのマップのまとめ 39 • 以上の中で見落としている問いは何か？ • 三つの整理の相互関係はどうなっているのか？ • 分野の違い（経験科学と数学、社会科学、人文学、工学、etc.）も考慮する必要がある。 「AIは科学をどう変えるか？」の問いのバリエーションを、三つの見方から挙げてみた。 （A）研究パイプラインに沿って （B）科学哲学の論点に沿って （C）社会の中の科学の視点から 発見 discovery 正当化 justification 理解 understandin g 価値 value
40. 2024.4.4 勉強会資料 結語（思うこと：1） 40 • 現状の議論は（A）と（C）が多い？ • しかし、AIによってできることが科学の特定のタスクにとどまる「部分的な自動化」の 段階では、哲学的な問いも「今の科学」を前提としたものになる。しかし、AIにゆだね る部分が増える（＝自律化）にしたがって、科学がよって立つコンセプチュアルな前提 が問われることになっていくと思われる。→ そこではおそらく（B）が重要。 • AIがどのように進歩するかわからない以上、「AIによって科学がどう変化するか」は誰 にもわからない。むしろ、AI科学は「そもそも科学って何だった？」という問い直しの 契機にもなることが重要（cf. 呉羽・久木田2020, 大塚2023）。
41. 2024.4.4 勉強会資料 結語（思うこと：2） 41 科学AIを「作る」人 例：AI/ML研究者 科学にAIを「使う」人 例：科学者 科学から受益する人 社会を構成するみんな 科学を探究する人 例：科学哲学者、その他のメタ サイエンス的関心を持つ人 今ある科学 未来のAI科学 • 「どう変わるか？」だけではなく、「AIによって科学をどう変えることができるの か？」（＝AI科学の設計論）が議論できるはず。そのための学問的土台は？ • 立場を超えて意味のある議論ができるプラットフォームがあるとよい。議論をフォローし、 問いのマップに加えつつ、共有可能にしていきたい。 • AI科学の行方は、科学AIを作る人、AIを科学に「使う人」、科学自体を探究する人な ど、異なる角度からの興味が交差するトピック。 ？ ？ ？ ？
42. 2024.4.4 勉強会資料 おまけ：「集団的な認知活動としての科学」という視点 Balzan, F., Campbell, J., Friston, K., Ramstead, M. J., Friedman, D., & Constant, A. (2023). Distributed Science - The Scientific Process as Multi-Scale Active Inference. 谷口忠大. (2024). 集合的予測符号化に基づく言語と認知のダイナミクス: 記号 創発ロボティクスの新展開に向けて. 認知科学, 31(1), 186-204. • 「科学研究とは、道具を含む複数のアクタ ー間の相互作用によって遂行される「社会 的分散認知活動」なのだ。」p.153 呉羽・久木田2020「AIと科学研究」『人工知能と人間・社会』 • 科学とは、分散的な能動的推論の営み。 ◦ この科学館により科学の進化の非合理的な側 面・「温かい認知」(Thagard)も捉えられる。 • 自由エネルギーベースのシミュレーションで 科学の社会的発展を予測できる可能性に言及。 • 集合的予測符号化仮説：人間社会が集団としてつ くる情報の「外的表象系」こそが言語。 ◦ この外的表象系をニューラルネットワークに写し 取ったのがLLM。 • 「人間とロボットの観測を統合して共創的な表現 学習としての記号創発」がなされるという描像に よる「全く新しい人間・ロボット系における機械 学習」の理論化の可能性に言及。 問い：集団的な認知活動の進化プロセスとして科学の発展をとらえたとき、「科学する主体としてのAI」は そのなかでどのような役割を演じるのだろうか？ この視点は「AI科学の設計論」に通じうるだろうか？
43. 2024.4.4 勉強会資料 43 参考文献 • 呉羽真・久木田水生 2020「AIと科学研究」『人工知能と人間・社会』所収 • 呉羽真（2018）「Artificial Creativityの可能性と科学の未来」https://researchmap.jp/whiteelephant0901/presentations/4954414 • 大塚淳 (2023) 深層学習後の科学のあり方を考える, 鈴木貴之編著『人工知能とどうつきあうか：哲学から考える』収録, 勁草書房 • Hope, T., Downey, D., Etzioni, O., Weld, D. S., & Horvitz, E. (2023). A Computational Inflection for Scientific Discovery. • Messeri, L., Crockett, M.J. Artificial intelligence and illusions of understanding in scientific research. Nature 627, 49–58 (2024). • Takagi, S. (2023). Speculative Exploration on the Concept of Artificial Agents Conducting Autonomous Research. ArXiv, abs/2312.03497. • Krenn, M.,et al. (2022). On scientific understanding with artificial intelligence. Nature Reviews. Physics, 4, 761 - 769. • Barman, K.G., Caron, S., Claassen, T., & Regt, H.D. (2023). Towards a Benchmark for Scientific Understanding in Humans and Machines. ArXiv, abs/2304.10327. • 高橋恒一（2019）「科学と技術の離婚」https://rad-it21.com/ai/ktakahashi190924/ • 嶋田義皓・丸山隆一（2023）文部科学省 基礎研究振興部会資料 https://www.mext.go.jp/content/20230620-mxt_kiso- 000030314_3.pdf • Balzan, F., Campbell, J., Friston, K., Ramstead, M. J., Friedman, D., & Constant, A. (2023). Distributed Science - The Scientific Process as Multi-Scale Active Inference. • 谷口忠大. (2024). 集合的予測符号化に基づく言語と認知のダイナミクス: 記号創発ロボティクスの新展開に向けて. 認知科学, 31(1), 186-204.