[論文レビュー] Graph Convolutional Neural Networks for (QM)ML/MM Molecular Dynamics Simulations

Albert Hofstetter, Lennard Böselt+1 more|arXiv (Cornell University)|Jun 29, 2022

Machine Learning in Materials Science参考文献 61被引用数 32

ひとこと要約

本稿では、凝縮相系の正確で効率的な(QM)ML/MM分子動力学シミュレーションを可能にする、∆-学習を用いたグラフ畳み込みニューラルネットワーク（GCNN）を提案する。DFTBをベースラインとして用い、メッセージパッシングにより長距離相互作用を捉えるGCNNを組み合わせることで、エネルギーおよび力の予測において化学的精度に到達し、多様な溶媒化系においてベースラインモデルよりも安定性と一般化性能に優れる。

ABSTRACT

To accurately study chemical reactions in the condensed phase or within enzymes, both a quantum-mechanical description and sufficient configurational sampling is required to reach converged estimates. Here, quantum mechanics/molecular mechanics (QM/MM) molecular dynamics (MD) simulations play an important role, providing QM accuracy for the region of interest at a decreased computational cost. However, QM/MM simulations are still too expensive to study large systems on longer time scales. Recently, machine learning (ML) models have been proposed to replace the QM description. The main limitation of these models lies in the accurate description of long-range interactions present in condensed-phase systems. To overcome this issue, a recent workflow has been introduced combining a semi-empirical method (i.e. density functional tight binding (DFTB)) and a high-dimensional neural network potential (HDNNP) in a $\Delta$-learning scheme. This approach has been shown to be capable of correctly incorporating long-range interactions within a cutoff of 1.4 nm. One of the promising alternative approaches to efficiently take long-range effects into account is the development of graph convolutional neural networks (GCNN) for the prediction of the potential-energy surface. In this work, we investigate the use of GCNN models -- with and without a $\Delta$-learning scheme -- for (QM)ML/MM MD simulations. We show that the $\Delta$-learning approach using a GCNN and DFTB and as baseline achieves competitive performance on our benchmarking set of solutes and chemical reactions in water. The method is additionally validated by performing prospective (QM)ML/MM MD simulations of retinoic acid in water and S-adenoslymethioniat interacting with cytosine in water. The results indicate that the $\Delta$-learning GCNN model is a valuable alternative for (QM)ML/MM MD simulations of condensed-phase systems.

研究の動機と目的

• グラフ畳み込みニューラルネットワーク（GCNN）に基づく機械学習ポテンシャルを、(QM)ML/MM分子動力学シミュレーションに適用すること。
• GCNNが凝縮相系における長距離相互作用および非局所的電子移動を正確にモデル化できるかを評価すること。
• 高次元ニューラルネットワークポテンシャル（HDNNP）と比較して、GCNNが∆-学習を有する場合とない場合の性能を評価すること。
• トレーニングデータの順序、損失関数の重み付け、近隣領域削減がモデルの一般化性能および計算コストに与える影響を評価すること。
• 金属酵素や有機金属触媒など、高い元素多様性を示す系において、GCNNベースの∆-学習が適しているかどうかを同定すること。

提案手法

• QMゾーンのポテンシャルエネルギー表面（PES）を予測するため、グラフ畳み込みニューラルネットワーク（GCNN）を訓練する。
• GCNNは、密度層を用いたメッセージパッシング操作を用い、原子グラフ全体にわたり情報を伝搬させ、非局所的電子構造効果を可能にする。
• ∆-学習スキームを採用し、GCNNがDFTBベースラインからのエネルギーおよび力の補正を予測することで、長距離相互作用の精度が向上する。
• 損失関数には、全エネルギー（wE = 1）、QM力（wFQM = 0.1）、MM力（wFMM = 10）の重み付き寄与が含まれており、一般化性能の最適化が図られている。
• 計算コストの削減を目的として、近隣領域削減スキームを検証したが、力の予測精度が著しく低下した。
• トレーニングデータを時間順およびランダムにシャッフルしたセットに分割し、データ順序の影響が収束性および性能に与える影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 GCNNに∆-学習を適用した場合、溶媒化分子の(QM)ML/MM MDシミュレーションにおいて、HDNNPと同等またはそれ以上の精度を達成できるか？
• RQ2 損失関数にQMおよびMM力勾配を含めることで、モデルの一般化性能および予測精度にどのような影響が生じるか？
• RQ3 データ順序（時間ベース vs. ランダム）が、GCNNベースの(QM)ML/MM MDシミュレーションにおけるトレーニング収束性およびモデル性能に与える影響は何か？
• RQ4 近隣領域削減スキームは、MDシミュレーションにおける力の精度を著しく損なわせることなく、計算コストをどの程度削減できるか？
• RQ5 GCNNは、複雑な凝縮相系において、HDNNPと比較して要素多様性の増加にどのようにスケーリングするか？

主な発見

• ∆-学習を施したGCNNモデルは、レチノイン酸および水中でのSAM/cytを含む5つのテスト系すべてにおいて、ベースラインDFTBよりもエネルギーおよび力の予測で低い平均絶対誤差（MAE）を達成した。
• GCNNに∆-学習を適用した場合、7,000ステップという比較的小さな初期QMトレーニングデータセットを用いても、110,000ステップにわたる安定した(QM)ML/MM MDシミュレーションが実現された。
• 最適な損失関数重み付け（wE = 1、wFQM = 0.1、wFMM = 10）により一般化性能が向上したが、QM力の重みを高めると過学習が生じ、性能が低下した。
• ランダムにシャッフルしたトレーニングデータは、時間順データよりも収束が速く、モデル精度を損なわずトレーニング時間を短縮した。
• 近隣領域削減スキームは計算コストを削減したが、力の予測精度を著しく低下させたため、MDシミュレーションには不適切であった。
• GCNNベースの∆-学習アプローチは、HDNNPが対称関数の指数的スケーリングに苦しむのとは異なり、要素多様性の増加に伴いより良好にスケーリングした。