[論文レビュー] Equivariant Flows: sampling configurations for multi-body systems with symmetric energies

Jonas Köhler, Leon Klein+1 more|arXiv (Cornell University)|Oct 2, 2019

Model Reduction and Neural Networks参考文献 16被引用数 45

ひとこと要約

本論文は、エネルギー対称性（回転・並進・置換）を満たす等変ボルツマン生成器を提案し、多体系のサンプリングを改善する。さらに、非等変モデルに比べて一般化と未見の準安定状態の発見が優れていることを示す。

ABSTRACT

Flows are exact-likelihood generative neural networks that transform samples from a simple prior distribution to the samples of the probability distribution of interest. Boltzmann Generators (BG) combine flows and statistical mechanics to sample equilibrium states of strongly interacting many-body systems such as proteins with 1000 atoms. In order to scale and generalize these results, it is essential that the natural symmetries of the probability density - in physics defined by the invariances of the energy function - are built into the flow. Here we develop theoretical tools for constructing such equivariant flows and demonstrate that a BG that is equivariant with respect to rotations and particle permutations can generalize to sampling nontrivially new configurations where a nonequivariant BG cannot.

研究の動機と目的

• 正確な尤度フローを用いて、対称なエネルギーを持つ多体系の平衡状態のサンプリングを動機づける。
• 対称性不変（等変）正規化フローを構築するための理論的基準を開発する。
• 多体系に実用的な等変フローの構築を提供する。
• 等変モデルと非等変モデルの一般化と準安定状態の発見を評価する。

提案手法

• 正規化フローおよび連続正規化フロー（CNF） コンテキストにおける対称性群と等変性/不変性を定義する。
• 十分な条件を証明する：もし q_Z が G-不変であり、f_theta が G-等変であれば、q_X,theta は G-不変である。
• ダイナミクス g_theta が G-等変である等変連続正規化フローを提案し、div g_theta による厳密な密度変化を可能にする。
• 置換・回転・並進不変性の下で K 個の粒子からなる多体系をモデル化し、平均ゼロで対称性不変な先分布 q_Z を用いる。
• 中心質量を保ち、密度評価が計算的に扱いやすい、単純な等変ベクトル場（半径方向の更新）を示す。

実験結果

リサーチクエスチョン

• RQ1 等変フローは対象のボルツマン分布の対称性不変性を継承・保持できるか。
• RQ2 等変ボルツマン生成器は未見の配置と準安定状態に対して非等変なものより一般化できるか。
• RQ3 多体系において置換・回転・並進不変性を維持する連続正規化フローをどのように構築できるか。
• RQ4 サンプル配置における対称性のエンコードが新しい準安定状態の発見能力に与える影響は何か。

主な発見

モデル	訓練 NLL	テスト NLL	訓練 NLL（代替？）	テスト NLL（代替？）
nBG (train)	-12.64	372.69	5.91	6.72

• 等変ボルツマン生成器（eqBG）は、非等変 BG（nBG）が失敗する未見の軌道にも一般化する。
• eqBG は訓練データとテストデータの対数尤度が同等またはそれ以上を達成する一方、nBG は大きなギャップを示す（例の表）。
• 系の対称性をエンコードする等変フローにより、訓練セットに含まれない複数の準安定状態を発見できる。
• 単純な等変ダイナミクスは厳密な密度変化を扱いやすくし、中心質量を平均ゼロの状態として保存する。
• 2D のおもちゃの多体系において、等変エンコーディングは非等変な RealNVP ベースのアプローチより一般化を改善する。