[論文レビュー] SchNet: A continuous-filter convolutional neural network for modeling quantum interactions

Kristof T. Schütt, Pieter-Jan Kindermans+4 more|arXiv (Cornell University)|Jun 26, 2017

Machine Learning in Materials Science参考文献 31被引用数 470

ひとこと要約

SchNetは分子内の量子相互作用をモデル化するための連続フィルタ畳み込み層を導入し、エネルギー予測と量子化学原理を尊重するエネルギー保存力場を可能にし、QM9、MD17、ISO17データセットで最先端の結果を達成します。

ABSTRACT

Deep learning has the potential to revolutionize quantum chemistry as it is ideally suited to learn representations for structured data and speed up the exploration of chemical space. While convolutional neural networks have proven to be the first choice for images, audio and video data, the atoms in molecules are not restricted to a grid. Instead, their precise locations contain essential physical information, that would get lost if discretized. Thus, we propose to use continuous-filter convolutional layers to be able to model local correlations without requiring the data to lie on a grid. We apply those layers in SchNet: a novel deep learning architecture modeling quantum interactions in molecules. We obtain a joint model for the total energy and interatomic forces that follows fundamental quantum-chemical principles. This includes rotationally invariant energy predictions and a smooth, differentiable potential energy surface. Our architecture achieves state-of-the-art performance for benchmarks of equilibrium molecules and molecular dynamics trajectories. Finally, we introduce a more challenging benchmark with chemical and structural variations that suggests the path for further work.

研究の動機と目的

• 回転・並進不変性およびエネルギー保存を尊重しつつ、分子のエネルギーと力場を学習するニューラルネットワークを開発する。
• 連続フィルタ畳み込みを用いて、格子に依存しない原子中心データへニューラルネットワークを拡張する。
• 化学的および立体異性を含むベンチマーク（QM9、MD17、ISO17）でこのアプローチを実証する。
• 力を訓練に含めると化学化合物空間全体で一般化性能が向上することを示す。

提案手法

• 結合間距離からフィルターを生成するフィルター生成ネットワークを介して、連続フィルタ畳み込み層(cfconv)を導入する。
• 分子を原子ごとに表現し、共有原子種埋め込みを用い、cfconvと原子志向層を介して原子表現を更新する相互作用ブロックを適用する。
• 原子間距離の放射基底展開を用いてフィルターの回転不変性を保証する。
• エネルギーと力項を含む結合損失を最小化することで総エネルギーと原子力を予測するよう訓練し、エネルギー保存を確保する。
• 設計上、滑らかで渦-freeな力場を保証し、回転対称な力の予測を生み出す。
• 相互作用ブロックのネットワーク深さと特徴マップサイズ（F=64）を固定し、残差接続により複雑な多体表現を可能にする。

実験結果

リサーチクエスチョン

• RQ1 SchNetは平衡分子データセット（QM9）で最先端のエネルギー予測を達成できるか？
• RQ2 分子動力学軌道（MD17）に対するエネルギーと力の予測性能、および化学的に多様で構造的に変化するデータ（ISO17）に対する性能はどの程度か？
• RQ3 力を用いた訓練はエネルギーのみで訓練する場合と比べて化学空間全体で一般化を向上させるか？
• RQ4 学習されたエネルギー面は滑らかでエネルギー保存的かつ回転不変・並進不変が保持されているか？
• RQ5 単一の統一モデルは複数の分子にまたがる化学的および立体異性の変動を表現できるか？

主な発見

N	SchNet	DTNN [ 20 ]	enn-s2s [ 21 ]	enn-s2s-ens5 [ 21 ]
50,000	0.59	0.94	–	–
100,000	0.34	0.84	–	–
110,462	0.31	–	0.45	0.33

• SchNetはQM9エネルギー予測の最先端の平均絶対誤差を達成し、11万 training例で0.31 kcal/molに到達。
• MD17では、エネルギーのみとエネルギー＋力のSchNetは、複数の軌跡でGDMLおよびDTNNと比較してエネルギー・力予測が競争力がある、または優れており、特に大規模な学習データで顕著。
• 力を用いた訓練はMD17で予測性能を大幅に向上させ、特に柔軟な分子に対して効果的で、SchNetはより大きな分子やデータセットにも拡張可能である。
• ISO17では、既知分子について化学精度を達成し、力を用いた訓練で一般化能力が向上し、化学的および立体変化の両方に対処する。
• QM9, MD17, ISO17を通じて、SchNetは滑らかでエネルギー保存的な力場と回転不変なエネルギー予測を生み出し、基本的な量子化学原理への適合を示している。