科学のモデルとしての集合的予測符号化：「生成科学」に向けた科学活動の形式化

[1C4-KS-2] 人工知能学会・日本神経回路学会合同企画「AI for Science」＠日本人工知能学会 2025
27th May 2025

[参考資料]
Taniguchi, T., Takagi, S., Otsuka, J., Hayashi, Y., & Hamada, H. T. (2024). Collective predictive coding as model of science: Formalizing scientific activities towards generative science. arXiv preprint arXiv:2409.00102.
https://arxiv.org/abs/2409.00102

Project site: Collective Predictive Coding as Model of Science: Formalizing Scientific Activities Towards Generative Science
https://cpc-ms.github.io/

Transcript

1. 科学のモデルとしての集合的予測符号化： 「生成科学」に向けた科学活動の形式化 Collective Predictive Coding as Model of Science: Formalizing Scientific Activities Towards Generative Science Tadahiro Taniguchi 1) Professor, Graduate School of Informatics, Kyoto University 2) Visiting Professor, Research Organization of Science and Technology, Ritsumeikan University 3) Senior Technical Advisor, Panasonic Holdings Corporation [1C4-KS-2] 人工知能学会・日本神経回路学会合同企画 「AI for Science」＠日本人工知能学会 2025 27th May 2025
2. 生成科学に向けて Taniguchi, T., Takagi, S., Otsuka, J., Hayashi, Y., & Hamada, H. T. (2025). Collective predictive coding as model of science: Formalizing scientific activities towards generative science. Royal Society Open Science (in press) (arXiv preprint arXiv:2409.00102).
3. Intelligence Knowledge <Explicit> Skills <Implicit> Body Interpretation Action Observation Hypothesis Experiment data New knowledge Robot data New skill Skills Physical capability Knowledge Processing capability Interpretation Manipulation strategy with higher accuracy, precision and dexterity with a larger range and higher resolution AI AI Scientists Robot ムーンショット型研究開発事業 目標3 人とAIロボットの創造的共進化によるサイエンス開拓 プロジェクトマネージャー(PM)原田 香奈子（東京大学） 3 目標3 研究開発プロジェクト（2020年度採択）人とAIロボットの創造的共進化によるサイエンス開拓 https://www.jst.go.jp/moonshot/program/goal3/33_harada.html
4. 科学的発見のための自律ロボット 世界モデル／模倣学習に基づく科学実験代替AIロボット @ムーンショット目標３原田香奈子PJ「人とAIロボットの創造的共進化による サイエンス開拓」&パナソニック共同研究（クロスアポイントメント） Tactile-Sensitive NewtonianVAE [Okumura+ 2022] NewtonianVAE [Jaques+ 2021, CVPR] ニュートン力学の構造を制約にした世界 モデルを学習．潜在空間でのPID制御を 可能に．触覚ビジョンセンサの表現学習 を統合してより微細な制御を実現 Box packing [Kato+ 2023] 系列タスクへの実ロボット での拡張  Okumura, et at., “Tactile-Sensitive NewtonianVAE for High-Accuracy Industrial Connector-Socket Insertion.” IROS 2022  Yusuke Kato, et al., World-Model-Based Control for Industrial box-packing of Multiple Objects using NewtonianVAE, Workshop on World Models and Predictive Coding in Cognitive Robotics, IROS 2023, Cognitive Robotics Award (Best Paper Award) Haptic Action Chunking Transformer [Uriguen + 2025 (under review)] Transformerに基づく模倣学習アーキ テクチャであるACTに、複数視点の画 像情報に加えて力覚（触覚）情報を活 用するように拡張。力覚情報を自動活 用し動作復帰可能に。
5. The AI Scientist [Lu+ 2024] Lu et al. (2024) The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery
6. 「研究者」の一連のプロセスを代替 する生成AIの出現！？ Lu et al. (2024) The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery
7. 生成科学からの道 ① 「研究者」の生成AIによる代替は、AIによる「科 学」の代替を意味するのか？  No。科学とは個人の営みに非ず。人類による科学的探 求活動の総体をモデル化できているわけではない。 ② 生成AIの濫用は既存の科学コミュニティを破壊す るか？  Maybe。生成AI論文の大量投稿。レビュー体制の破壊。 ③ 生成AIの活用やロボットの導入は科学全体をAIに よる自律駆動科学システムに変えるか？  No。科学活動の総体において、それは部品のパッチ ワーク的な置き換えにすぎない。 ④ 生成AIの活用は「科学」の全体を良き方向に導く か？  Maybe, but Nobody knows。だれも見通せていないよ うに思う。良い「科学」とはなにか？
8. 生成科学とは何か？ A) 広義の生成AI活用による科学の加速  生成AIをリサーチツールとして活用し、論文執筆支援やデー タ可視化、実験プロトコル自動生成などを通じて研究プロセ ス全般の生産性を向上させるアプローチ。 B) 仮説生成を含む閉ループ自律科学  文献レビューから仮説立案、実験設計・実行、データ解析、 結果フィードバックによる再仮説生成まで、AIが一連のサイ クルを自動で回すことで科学的発見を推進する方法。 C) 構成論的生成科学  計算機シミュレーションやジェネレーティブモデルを用い、 人工生命や複雑系の「新規事象」を構成・生成しながら知見 を得る、従来の分析的科学に対置される構成的アプローチ。 D) 科学コミュニティの確率的生成モデル化（CPC的視点）  研究者の観察・仮説・実験・査読・引用などコミュニティ全 体の活動をベイズ的生成過程として捉え、人間とAIを包含す るハイブリッドな「生成科学」システムとしてモデル化する 枠組み。 生成科学パネル vol.2 ～AI時代のgenerative scienceに向けて～｜記号創発ク ロストーク・番外編 https://www.youtube.com/watch?v=2uatQVyEheI
9. Collective Predictive Coding as Model of Science (CPC-MS): Formalizing Scientific Activities Towards Generative Science Collective Predictive Coding as Model of Science 高木志郎@第2回AIロボット駆動科学研究会
10. 集合的予測符号化仮説 [Taniguchi ‘23] Taniguchi, T. (2024). Collective predictive coding hypothesis: Symbol emergence as decentralized bayesian inference. Frontiers in Robotics and AI, 11, 1353870. https://doi.org/10.31234/osf.io/d2ty6 (Outstanding Article) 集合的予測符号化に基づく言語と認知のダイナミクス ～記号創発ロボティクスの新展開に向けて～, 認知科学, 2023
11. 科学のモデルとしての集合的予測符号化 Taniguchi, T., Takagi, S., Otsuka, J., Hayashi, Y., & Hamada, H. T. (2025). Collective predictive coding as model of science: Formalizing scientific activities towards generative science. Royal Society Open Science (in press) (arXiv preprint arXiv:2409.00102). Collective Predictive Coding as Model of Science 高木志郎@第2回AIロボット駆動科学研究会
12. MH naming game and scientific discussion  科学的議論、特に査読プロセスは、構造的にMetropolis-Hastings名付けゲ ーム(MHNG)と類似している  MHNGは分散的なベイズ推論として、外的表象系への表現学習の推論ア ルゴリズムとして機能する。  科学活動全体のプロセスは、MHネーミングゲームと同様に、分散ベイズ 推論として捉えられる可能性がある  これが、科学のモデルとしてのCP（CPC-MS）という発想につながる Observation o u Semiotic Communication Representation learning Object Agent A Agent B Internal representations Speaker utters a sign as sampling Listener judges if it accepts the sign Observation Sign
13. 13 https://x.com/hayashiyus/status/1831309992638759210 Taniguchi, T., Takagi, S., Otsuka, J., Hayashi, Y., & Hamada, H. T. (2025). Collective predictive coding as model of science: Formalizing scientific activities towards generative science. Royal Society Open Science (in press) (arXiv preprint arXiv:2409.00102). 自由エネルギー原理に基づくCPC-MSの定式化 1. Ordinary variational free energy × Number of agents (Representation learning, predictive coding, world model learning) 2. Collective regularization term (Alignment of external representation w conditioned by internal representation z and, symbol emergence) CPCを変分自由エネルギー最小化として定式化すると集合的正則化項が出現する
16. Implications by CPC-MS ① 社会的客観性（Social Objectivity）  科学的知識の客観性は個人の合意ではなく、科学コミュ ニティ全体の事後分布によって社会的に構成される。 ② 科学の進歩（Scientific Progress）  科学の進歩は分散ベイズ推論による事後分布の逐次的改 善として捉えられ、パラダイム転換も確率分布の変化と して定式化される。 ③ 生成的科学（Generative Science）  科学は既存知識の検証にとどまらず、新たな仮説や研究 計画を生成し続ける営みとして理解される。 ④ 集合的好奇心（Collective Curiosity）  科学者個人の好奇心が概念ネットワークを通じて相互に 影響し合い、コミュニティ全体の探索行動を駆動する。
17. Towards Automated Science System  研究の自動化の試みの多くは科学の特定の過程の自動化や人工的な 「科学者」の実装を目指すが、科学は社会的な全体的な営み  CPC-MS は科学コミュニティ全体の数学的／確率的モデルであり、科 学コミュニティ全体の自動化を目指し実装する一つの出発点を提供
18. Information Email： taniguchi@i.kyoto-u.ac.jp X (personal): @tanichu 谷口忠大（編）『記号創発システム論ー 来るべきAI共生社会の「意味」理解にむけ て（ワードマップ） 』新曜社（2024） https://cpc-ms.github.io/