[論文レビュー] Taming Multi-Domain, -Fidelity Data: Towards Foundation Models for Atomistic Scale Simulations

Tomoya Shiota, Kenji Ishihara+3 more|arXiv (Cornell University)|Dec 17, 2024

Machine Learning in Materials ScienceMaterials Science被引用数 3

ひとこと要約

本稿では、高価な再計算を伴わずに、有機分子と無機結晶を含むマルチドメイン・マルチフィデリティな量子化学データセットを統合するためのTotal Energy Alignment (TEA)手法を紹介する。TEAを用いて、著者らは、分子反応遷移状態と無機結晶の性質の両方において最先端の精度を達成する、1つのオープンソースのニューラルネットワークポテンシャル、MACE-Osaka24を訓練した。これにより、原子スケールシミュレーションにおけるファウンデーションモデルの民主的開発が可能になる。

ABSTRACT

Machine learning interatomic potentials (MLIPs) are changing atomistic simulations in the field of chemistry and materials science. However, constructing a single universal MLIP that can accurately model molecular and crystalline systems remains challenging. A central obstacle is the integration of diverse datasets generated under different computational conditions. We present Total Energy Alignment (TEA), which is an approach that enables the seamless integration of heterogeneous quantum chemical datasets without redundant calculations. Using TEA, we trained MACE-Osaka24, the first open-source MLIP model based on a unified dataset covering molecular and crystalline systems. This universal model displays strong performances across diverse chemical systems, exhibiting similar or improved accuracies in predicting organic reaction barriers compared to those of specialized models, while effectively maintaining state-of-the-art accuracies for inorganic systems. These advancements pave the way for accelerated discoveries in the fields of chemistry and materials science via genuine foundation models for chemistry.

研究の動機と目的

• 分子および結晶系の両方のシステムで用いられる異なる計算手法（例えば、DFT関数、基底関数）に由来する異種の量子化学的データセットを統合する課題に対処すること。
• 大規模な計算リソースを持たない研究者にとって、汎用的な機械学習原子間ポテンシャル（MLIP）へのアクセスを制限する計算コストの障壁を克服すること。
• 有機分子と無機結晶の両方を1つのモデルで高精度にモデル化できる統一的でオープンソースのニューラルネットワークポテンシャルを開発すること。
• 従来の分子系と固体系の境界を越えて、化学分野におけるファウンデーションモデルの構築を可能にすること。

提案手法

• Total Energy Alignment (TEA) を適用する。2段階のフレームワーク：まず、異なるデータセット間で内殻電子状態の基準エネルギーを一致させ、次に、原子化エネルギーをスケーリングして全エネルギーを調和させる。
• 2段階のキャリブレーションを実施：共通の基準点を用いて、異なるデータセット間で孤立原子の基準エネルギーを一致させ、その後、関数と基底関数の違いを補正するための原子化エネルギーのスケーリングを実施。
• MPtrj（無機系）とOFF23（有機系）の両方のデータセットを統合したデータセット上で、1つのMACEベースのニューラルネットワークポテンシャル（MACE-Osaka24）を訓練。ドメイン固有の精度を保持する。
• MACEアーキテクチャの等長性とメッセージパッシング設計を活用し、多様な化学的環境において物理的整合性を確保する。
• 標準化されたベンチマークを用いてモデルを検証：反応遷移状態の予測、格子定数の最適化、TIP3PおよびTIP4P/2005水モデルを用いた古典的MDシミュレーション。
• D3(BJ)分散補正を組み込んだ修正版OpenMM-MLインタフェースを用いて、ML駆動MDを実装し、長期シミュレーションにおける精度を確保する。

実験結果

リサーチクエスチョン

• RQ1 異なるDFT関数と基底関数に由来する異種の量子化学的データセットを、広範な再計算を伴わずに統合できるか？
• RQ2 1つの汎用的機械学習原子間ポテンシャルが、分子系および結晶系の両方で最先端の精度を達成できるか？
• RQ3 提案されたTEA手法により、大規模な計算リソースを持たない研究者が、原子スケールシミュレーションにおけるファウンデーションモデルの開発に貢献し、それらの恩恵を受けることができるか？
• RQ4 統一モデルの性能は、反応遷移状態と格子定数の予測において、多様な化学系において、専用モデルと比較してどうなるか？

主な発見

• MACE-Osaka24は、無機結晶の格子定数に対して0.0153 eV/atomの平均絶対誤差（MAE）を達成し、分子反応遷移状態では、それらを上回る性能を示した。
• 本モデルは、無機系においても最先端の精度（非BCC結晶ではMAE < 0.02 Å）を維持しており、有機系の反応遷移状態においても、ドメイン特化モデルと同等またはそれ以上の性能を達成している。
• BCC結晶（K, Rb, Cs）では、MACE-Osaka24の4.5 Åのカットオフ半径の制限により、格子定数が大きくなると予測誤差が増加しており、大単位格子構造における長距離相互作用を捉える能力が制限されている。
• TEAにより、MPtrj（無機系）とOFF23（有機系）のデータセットを、全エネルギーの再計算なしにシームレスに統合可能となり、計算負荷を低減するとともに、統合データセットへのアクセスの民主化が実現した。
• TIP4P/2005を基準としてMACE-Osaka24を用いた古典的MDシミュレーションでは、径関数と自己拡散係数において良好な一致が得られ、長期的な安定性と精度が確認された。
• 本モデルの性能は、水クラスターおよびトリペプチドを含む多様な化学的環境においても頑健であり、学習データを越えた一般化能力を示している。