[論文レビュー] Learning Local Equivariant Representations for Large-Scale Atomistic Dynamics

Albert Musaelian, Simon Batzner+5 more|arXiv (Cornell University)|Apr 11, 2022

Machine Learning in Materials Science被引用数 21

ひとこと要約

Allegro は厳密に局所的な E(3)-等変ニューラルネットワークの分子間ポテンシャルで、小分子ベンチマークにおいて最先端の精度を達成しつつ、スケーラブルな並列シミュレーションと、分布外データに対する強力な転送性を実現する。

ABSTRACT

A simultaneously accurate and computationally efficient parametrization of the energy and atomic forces of molecules and materials is a long-standing goal in the natural sciences. In pursuit of this goal, neural message passing has lead to a paradigm shift by describing many-body correlations of atoms through iteratively passing messages along an atomistic graph. This propagation of information, however, makes parallel computation difficult and limits the length scales that can be studied. Strictly local descriptor-based methods, on the other hand, can scale to large systems but do not currently match the high accuracy observed with message passing approaches. This work introduces Allegro, a strictly local equivariant deep learning interatomic potential that simultaneously exhibits excellent accuracy and scalability of parallel computation. Allegro learns many-body functions of atomic coordinates using a series of tensor products of learned equivariant representations, but without relying on message passing. Allegro obtains improvements over state-of-the-art methods on the QM9 and revised MD-17 data sets. A single tensor product layer is shown to outperform existing deep message passing neural networks and transformers on the QM9 benchmark. Furthermore, Allegro displays remarkable generalization to out-of-distribution data. Molecular dynamics simulations based on Allegro recover structural and kinetic properties of an amorphous phosphate electrolyte in excellent agreement with first principles calculations. Finally, we demonstrate the parallel scaling of Allegro with a dynamics simulation of 100 million atoms.

研究の動機と目的

• メッセージパッシング手法と同等またはそれ以上の精度を満たす、厳密に局所的で等変な分子間ポテンシャルを開発する。
• 大規模系に対して忠実性を犠牲にすることなく、スケーラビリティと並列化可能性を示す。
• 分布外データおよびより高温のデータへの強い転送性を示す。
• 複雑な電解質のMDシミュレーションにおいて、構造的および動力学的性質を再現することによって物理的現実性を検証する。

提案手法

• Allegro を導入する。スカラー（不変）およびテンソル（等変）潜在空間を持つ任意に深い E(3)-等変ネットワーク。
• 全エネルギーを種ごとおよび中心対ごとのエネルギーに分解して、サイズ効果のある局所エネルギー寄与を保証する。
• テンソル積層を用いて埋め込まれた環境を介して情報を伝播させる（近傍の球面調和函数の加重和） density-trick を用いて計算コストを低減。
• 二体スカラー特徴を埋め込み、層を通して不変・等変潜在状態を反復的に更新し、その後対エネルギーを予測するMLPを適用。
• 内部特徴とターゲットを正規化して、さまざまな系サイズ・組成に対して訓練の安定性とサイズ拡張性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 厳密に局所的で等変なニューラルネットワークは、メッセージパッシング型の分子間ポテンシャルと同等かそれ以上の最先端の精度を達成できるのか。
• RQ2 局所的な Allegro モデルは、分布外の配置やより高温に対してどれだけ一般化するか。
• RQ3 Allegro は、ダイナミクス中の精度とエネルギー保存を保ちながら、非常に大規模な系へスケール可能か。
• RQ4 Allegro は、複雑な電解質のMDシミュレーションにおいて、構造的および動力学的特性の両方を忠実に再現できるか。

主な発見

Molecule	Energy (meV)	Forces (meV/Å)
Aspirin	6.2	2.3
Azobenzene	2.8	2.3
Benzene	0.3	0.2
Ethanol	0.9	2.1
Malonaldehyde	1.5	3.6
Naphthalene	1.2	0.9
Paracetamol	2.9	4.9
Salicylic acid	1.8	2.9
Toluene	1.6	1.8
Uracil	0.6	1.8

• Allegro は改訂版 MD-17 ベンチマークで力成分 MAE の最先端を達成し、いくつかの小分子ターゲットで競合的または優れた性能を示す。
• Allegro の単一のテンソル積層は QM9 ベンチマークで既存の深い MPNN やトランスフォーマを凌駕できる。
• Allegro は分布外データへの強い転送性を示し、他の局所 MLIP を上回る。
• Allegro を用いた分子動力学は Li3PO4 の構造的および動力学的特性を初原理計算と優れた一致で再現する。
• モデルは並列でスケールし、最大1億原子の系をシミュレートすることが可能で、実用的な大規模適用性を示す。