幾何学的深層学習入門 ～３次元構造と対称性を学習するニューラルネットワーク～

分子や結晶などの3次元構造を扱う機械学習では、原子間の関係だけでなく、回転や並進といった空間の対称性をどのようにモデルへ組み込むかが重要となる。幾何学的深層学習は、グラフや点群などの幾何学的構造をもつデータを対象とし、こうした幾何学的性質を考慮したニューラルネットワークを構成するための枠組みである。本講演では、グラフニューラルネットワークを出発点として、回転・並進に対する不変性および同変性の考え方を中心に、幾何学的深層学習の基本を概説する。また、分子や結晶の3次元構造を対象とした物性予測などの事例を通して、幾何学的な帰納バイアスをモデルに組み込む意義と、近年のモデル設計の考え方を紹介する。

Transcript

1. CBI学会2026年大会 制約付き深層学習の最前線 幾何・位相・物理を組み込んだモデルのAI創薬応用 2026年10月29日タワーホール船堀 幾何学的深層学習入門 ３次元構造と対称性を学習するニューラルネットワーク OMRON SINIC X / Senior Researcher 谷合 竜典
2. 自己紹介 | 谷合 竜典（たにあい たつのり） 改 2009-2012 東京大学 工学部 2012-2014 東京大学 情報理工学系 修士 2014-2017 東京大学 情報理工学系 博士 2017-2019 理化学研究所 革新知能統合ｾﾝﾀｰ 2019-現在 OMRON SINIC X Corporation センシング、CV、材料情報学など センシング、CV、材料情報学など 2眼画像からの3次元形状推定 意味的マッチング 陰影変化からの形状推定 材料の結晶構造解析 https://taniai.space ≫ JP より 動画からの奥行・動き・動的物体領域 本日のスライドも多分↑のページで公開します 1
3. 本日の内容 • 物質の3次元構造とAI • 幾何学的対称性 • 対称性を組み込むモデル設計 • 結晶構造の物性予測への応用（という名目で 私の研究紹介。時間があれば･･･） • まとめ 2
4. 物質科学とAI AI 物性の予測 入力された構造 単体の性質予測 反応の予測 複数の構造間に はたらく力の予測 • • • • 物理シミュレーション 大規模データ 幾何学的深層学習 生成AI 新物質の設計 優れた性質を持つ 物質構造の生成 3
5. 物質の3次元構造とデータ表現 分子 タンパク質 結晶構造 • 数個～数百個の原子 の結びつき • 鎖状に連なったアミノ酸 が折りたたまれて形成さ れる、複雑な3次元構造 • 原子が規則的に配列した３ 次元の周期構造 水（H2O）分子のデータ表現 • 数百～数万個の原子から なる巨大な分子 • 数個～数百個の原子から成 る単位胞の繰り返し 4
6. 同じ構造でも、データ上の見かけは異なる データ上の座標系の変化にとらわれないモデルの構築が必要 5
7. 本日の内容 • 物質の3次元構造とAI • 幾何学的対称性 • 対称性を組み込むモデル設計 • 結晶構造の物性予測への応用 • まとめ 6
8. 回転・並進と群 3次の特殊ユークリッド群 SE(3) 群 3次の特殊直交群 SO(3) 群 回転 𝑅 並進 𝒕 ′ 𝒑 = 𝑅𝒑 + 𝒕 ′ 𝒑 = 𝑅𝒑 ※ 𝑅 は 𝑅𝑇 𝑅 = 𝐼 かつ det 𝑅 = 1 となる回転行列 ※ det 𝑅 = −1 （鏡映変換）を含む場合を E(3) または O(3) と呼ぶ 幾何学的深層学習：これらの変換への「対称性」を備えたモデルの構築 7
9. 機械学習における「対称性」 (symmetry) とは 左右反転操作 𝑓 𝑃 回転･並進 操作 𝑓 𝑅𝑃 + 𝒕 ⋯ 𝒕 左右対称 モデルの対称性 機械学習モデルの対称性：入力に対して一定の操作（回転や 並進）をしても、モデルの振舞いが本質的に変わらない 8
10. 不変性：変換しても予測値は変わらない SE(3) 不変 𝑓 𝑃 = 𝑓 𝑅𝑃 + [𝒕 ⋯ 𝒕] SO(3) 不変 𝑓 𝑃 = 𝑓 𝑅𝑃 同じ 物性値 9
11. 同変性：変換に合わせて予測も変わる 例）より安定な構造への変位Δ𝑃を予測するモデル 𝑓 𝑃 = Δ𝑃 SO(3) 同変 / 回転同変 なら 𝑓 𝑅𝑃 = 𝑅𝑓 𝑃 同じ 変形 10
12. 機械学習に対称性を組み込む意義 特徴空間 𝑇 𝑦1 = max 0, 𝒘1 𝒙 + 𝑏1 𝑇 𝑦2 = max 0, 𝒘2 𝒙 + 𝑏2 • 機械学習の基本：特徴空間を超平面で分割する操作を組み合わせ → 入出力間の一定の変換ルールを学習 • 入力 𝒙 として座標 𝒑 をそのまま用いると、回転･並進によってデータ 分布が見かけ上 大きく変動し、一定の変換ルールの学習が困難 11
13. 本日の内容 • 物質の3次元構造とAI • 幾何学的対称性 • 対称性を組み込むモデル設計 • 結晶構造の物性予測への応用 • まとめ 12
14. GNN：原子間の情報交換で構造内の原子状態を学ぶ 予測値出力 グラフニューラルネットワーク (GNN) の基本 変換 • 各原子 𝑖 の状態を抽象的な特徴ベクトル 𝒙𝑖 で表現 • 各 𝒙𝑖 は入力層において、原子種に対応した埋込み ベクトルで初期化 • メッセージ伝搬操作によって近傍原子間で情報交換 プーリング（平均など） 変換 多 層 的 に 繰 返 し 変換 変換 𝒙′𝑖 = ෍ 𝑤𝑖𝑗 𝒎𝑖←𝑗 𝒙𝑗 , 𝒑𝑗 − 𝒑𝑖 𝒙2 𝑗∈𝑁𝑖 𝒙1 𝒙3 埋込 埋込 埋込 H O H • メッセージ伝搬を繰り返して、各原子状態 𝒙𝑖 を原 子種→“空間配置に応じた状態”へ遷移 • 予測対象に応じて、原子ごとの特徴ベクトルを平均 等で集約（プーリング）した後、予測値を出力 13
15. 本日の内容 • 物質の3次元構造とAI • 幾何学的対称性 • 対称性を組み込むモデル設計 – 不変表現に基づくアプローチ – フレームに基づくアプローチ – 同変表現に基づくアプローチ • 結晶構造の物性予測への応用 • まとめ 14
16. 回転不変モデル：距離に基づく情報交換 原子間距離は回転･並進不変 𝑑𝑖𝑗 ≔ 𝒑𝑗 − 𝒑𝑖 = (𝑅𝒑𝑗 + 𝒕) − (𝑅𝒑𝑖 + 𝒕) 距離に基づくメッセージ伝搬で回転･並進不変なGNNを実現 𝒙′𝑖 = ෍ 𝑤𝑖𝑗 𝒎𝑖←𝑗 𝒙𝑗 , 𝑑𝑖𝑗 𝑗∈𝑁𝑖 幾何情報として距離のみを用いる距離ベースGNNは 最も基本的な不変モデルだが、モデルの表現力は限定的 15
17. より豊かな幾何情報を取り込むには？ メッセージ伝搬において、 対象原子 𝑖 と近傍原子 𝑗 および 𝑘 との3体間の相互作用をモデル化 𝑖 𝒙′𝑖 = ෍ 𝑤𝑖𝑗𝑘 𝒎𝑖←𝑗,𝑘 𝒙𝑗 , 𝒙𝑘 , 𝑑𝑖𝑗 , 𝑑𝑖𝑘 , 𝜃𝑖𝑗𝑘 𝑗,𝑘∈𝑁𝑖 𝑗 𝑘 𝜃𝑖𝑗𝑘 → 3原子間の角度 𝜽𝒊𝒋𝒌 を回転･並進不変な幾何情報として利用可能 ただし、3体モデルは組合せ数が増えるため、計算量が増大 16
18. 不変モデルの出力層工夫による同変量推定 ベクトル予測値の出力 出力 不 変 モ デ ル と し て 設 計 変換 出力 変換 出力 変換 𝒑𝑗 − 𝒑𝑖 ത 𝑖𝑗 ≔ 近傍原子との方向ベクトル 𝒓 𝑑𝑖𝑗 の重み付き和 𝒙2 𝒙1 内部の特徴抽出部を不変モデルとして設計し、 最終出力層において、 𝒙3 埋込 埋込 埋込 H O H 𝒗𝑖 = ෍ 𝑤𝑖←𝑗 𝒙𝑖 , 𝒙𝑗 𝒓ത 𝑖𝑗 𝑗∈𝑁𝑖 を出力することで、出力ベクトル 𝒗 を回転同変 にすることが可能 17
19. 本日の内容 • 物質の3次元構造とAI • 幾何学的対称性 • 対称性を組み込むモデル設計 – 不変表現に基づくアプローチ – フレームに基づくアプローチ – 同変表現に基づくアプローチ • 結晶構造の物性予測への応用 • まとめ 18
20. フレーム：構造に追随する座標系 「構造の向きを入力前に正規化すればよいのでは？」 向きを正規化した構造 “フレーム” と呼ばれるアプローチ
21. フレーム平均化 例）構造𝑷に対する主成分分析による向きの正規化 固有ベクトルからなる回転行列 𝐹 = 𝒆1 𝒆2 𝒆3 𝑇 により𝐹𝑃で正規化。 ただし、固有ベクトルの符号の任意性から、フレーム 𝐹は4通り。 フレーム平均化による不変化 1 𝑓ҧ 𝑃 = ℱ 𝑃 ෍ 𝑓(𝐹𝑃) 同変化 1 𝑓ҧ 𝑃 = ℱ 𝑃 𝐹∈ℱ(𝑃) ←Pに対するフレーム集合 ෍ 𝐹 −1 𝑓(𝐹𝑃) 𝐹∈ℱ(𝑃) モデル 𝒇 内では、変換後の構造 𝑭𝑷 の3次元座標を直接利用可能 20
22. 本日の内容 • 物質の3次元構造とAI • 幾何学的対称性 • 対称性を組み込むモデル設計 – 不変表現に基づくアプローチ – フレームに基づくアプローチ – 同変表現に基づくアプローチ • 結晶構造の物性予測への応用 • まとめ 21
23. 回転同変モデル：全方位応答を表した特徴表現 通常の回転不変モデル 回転同変モデル • 距離 𝑑𝑖𝑗 = 𝒑𝑗 − 𝒑𝑖 などの不変量 に基づく相互作用 • 距離 𝑑𝑖𝑗 と方向 𝒓ത 𝑖𝑗 = 𝒑𝑗 − 𝒑𝑖 /𝑑𝑖𝑗 に依存した相互作用 𝒙′𝑖 = ෍ 𝑤𝑖𝑗 𝒎𝑖←𝑗 𝒙𝑗 , 𝑑𝑖𝑗 𝒙′𝑖 = ෍ 𝑤𝑖𝑗 𝒎𝑖←𝑗 𝒙𝑗 , 𝑑𝑖𝑗 , 𝒓ത 𝑖𝑗 𝑗∈𝑁𝑖 • 方向によらない応答を、特徴ベク トル 𝒙 として保持・更新 • 不変特徴の更新には、通常の ニューラルネットを利用可能 𝑗∈𝑁𝑖 • 全方位への応答関数を表す係数を、 特徴ベクトル 𝒙 として保持 • 応答パターンが入力構造の回転に 追随するよう更新（演算の制約） 22
24. 回転同変モデルの仕組み：フーリエ表現 SO(2) 同変モデル • 円周上の関数のフーリエ表現 𝑀 𝜙 𝜃; 𝒄 = ෍ 𝑐𝑘 𝑒 𝑖𝑘𝜃 𝑘=−𝑀 • 基底関数：𝑒 𝑖𝑘𝜃 = cos 𝑘𝜃 + 𝑖 sin 𝑘𝜃 • 係数列 𝒄 = 𝑐𝑘 が全角度𝜃への応答関 数𝜙 𝜃 を表現 • 応答関数𝜙 𝜃 を 𝛼 回転させると 𝜙 𝜃 − 𝛼; 𝒄 = 𝜙 𝜃; 𝑒 −𝑖𝑘𝛼 𝑐𝑘 SO(3) 同変モデル • 球面上の関数のフーリエ表現 𝐿 𝑙 𝑚 𝜓 𝒓ത ; 𝒙 = ෍ ෍ 𝒙𝑚 𝒓ത 𝑙 𝑌𝑙 𝑙=0 𝑚=−𝑙 • 基底関数：球面調和関数 𝑌𝑙𝑚 𝒓ത • 係数列 𝒙 = 𝑥𝑙𝑚 が全方向ത𝒓への応答 関数𝜓 𝒓ത を表現 • 応答関数𝜓 𝒓ത を 𝑅 回転させると 𝜓 𝑅−1 𝒓ത ; 𝒙 = 𝜓 𝒓ത ; 𝐷(𝑅)𝒙 WignerのD行列 フーリエ基底の係数を特徴ベクトルとして利用 → 全方向への応答関数を表現 ＆ 入力の回転に伴う応答変化を係数変換で実現 23
25. 回転同変モデルの仕組み：フーリエ表現 SO(3) 同変モデル • 球面上の関数のフーリエ表現 球面調和関数 次数 𝑙 𝐿 𝑙 0 𝑚 𝜓 𝒓ത ; 𝒙 = ෍ ෍ 𝒙𝑚 𝒓ത 𝑙 𝑌𝑙 1 𝑙=0 𝑚=−𝑙 2 3 −3 −2 −1 0 位数 𝑚 1 2 3 • 基底関数：球面調和関数 𝑌𝑙𝑚 𝒓ത • 係数列 𝒙 = 𝑥𝑙𝑚 が全方向ത𝒓への応答 関数𝜓 𝒓ത を表現 • 応答関数𝜓 𝒓ത を 𝑅 回転させると 𝜓 𝑅−1 𝒓ത ; 𝒙 = 𝜓 𝒓ത ; 𝐷(𝑅)𝒙 WignerのD行列 フーリエ基底の係数を特徴ベクトルとして利用 → 全方向への応答関数を表現 ＆ 入力の回転に伴う応答変化を係数変換で実現 24
26. 回転同変モデルによる不変量・同変量の予測 球面調和関数 𝒍 = 𝟎：回転不変なスカラー成分 対応する特徴 𝒙0 から、エネルギーなどの不変量を予測 次数 𝑙 0 𝒍 = 𝟏：３次元ベクトルと同じ回転則を持つ成分 対応する特徴 𝒙1 から、力や変位などの同変量を予測 1 出力時にはあまり使われないが 内部の中間表現としてよく使われる 2 3 −3 −2 −1 0 1 2 3 位数 𝑚 同変特徴ベクトルは、回転不変のスカラー成分も併せ持つため 不変量の予測にも利用可能 25
27. モデル設計の整理：不変表現・フレーム・同変表現 不変表現 フレーム 同変表現 距離や角度などの 不変量のみの利用 構造の向きの正規化 フーリエ表現に基づく 同変特徴量の利用 不変量予測 可能 （最も基本的なアプローチ） 可能 （フレーム平均化） 可能 （スカラー成分の利用） 同変量予測 可能 （出力層の工夫） 可能 （逆フレーム変換の利用） 可能 （対応する次数成分の利用） 長所 通常のネットワークを利用 でき、実装が比較的容易 方向情報を保持しつつ、通常 のネットワークを利用可能 方向情報を各層で保持・統合 でき、同変量も自然に扱える 短所 モデル設計によっては、構造 情報を十分に区別できない フレームの一意性・安定性の 確保が難しい 同変性を保つ演算に制約あり。 高次数では計算負荷が増大 方法
28. 本日の内容 • 物質の3次元構造とAI • 幾何学的対称性 • 対称性を組み込むモデル設計 • 結晶構造の物性予測への応用 • まとめ 27
29. 結晶構造では周期性も重要 塩化ナトリウム（NaCl）の結晶構造のデータ表現 結晶構造 一定パターンの 無限の繰り返し 繰返しパターン（単位胞） 内の原子配置 繰返す方向（単位胞の形） 28
30. Crystalformer：周期構造を捉えるメッセージ伝搬 [Taniai et al., 2024] 簡単な1次元構造を例に･･･ 1 ′ 𝒙𝑖 = ෍ ෍ exp 𝑍𝑖 𝑗∈𝑁𝑖 𝑛 単位胞内の原子 𝑎𝑖𝑗 − 単位胞の繰り返し 𝒑𝑗 − 𝒑𝑖 + 𝑛𝒍 𝜎𝑖2 𝟐 𝒎 𝒙𝑗 , 𝒑𝑗 − 𝒑𝑖 + 𝑛𝒍 𝑟 単位胞 格子ベクトル 𝒍 距離減衰する相互作用により 無限の繰り返し情報をモデルに取り込み 29
31. CrystalFramer：動的フレームによる局所正規化座標 [Ito & Taniai et al., 2025] 従来のフレーム • 構造全体の向きを正規化 • 構造のみからフレームを決定 提案する動的フレーム • 各原子の周辺構造の向きを正規化する局所フレーム • 構造および相互作用の動的な重みからフレームを決定 30
32. まとめ • 物質構造は、原子種と空間配置で表現できるが、座標系の取り方に は任意性がある • 本講演では、座標系の取り方にとらわれない機械学習モデルを紹介 • 回転や並進などの幾何変換に対し、 出力が変わらない不変性と、変換に追随する同変性を組み込む • 主な設計方法は、 不変量の利用 ／ フレームによる向きの正規化 ／ 同変特徴の利用 31