[論文レビュー] Hyperactive Learning (HAL) for Data-Driven Interatomic Potentials

van der Oord, Matthias Sachs+3 more|arXiv (Cornell University)|Oct 9, 2022

Machine Learning in Materials Science被引用数 9

ひとこと要約

本論文は、ベイジアン回帰による不確実性推定を用いて、分子動力学シミュレーションを予測不確実性が大きい構成へとバイアス化することで、データ駆動型原子間ポテンシャルの学習を加速するフレームワークであるHyperactive Learning (HAL) を提案する。HALはAlSi10合金に対してたった88配置で学習を完了させ、融点の予測精度を実験的精度に達するまでにし、ポリマー密度の予測に対しても最小限の学習データで高い精度を達成した。これは標準的なサンプリング手法を著しく上回る。

ABSTRACT

Data-driven interatomic potentials have emerged as a powerful class of surrogate models for {\it ab initio} potential energy surfaces that are able to reliably predict macroscopic properties with experimental accuracy. In generating accurate and transferable potentials the most time-consuming and arguably most important task is generating the training set, which still requires significant expert user input. To accelerate this process, this work presents ext{\it hyperactive learning} (HAL), a framework for formulating an accelerated sampling algorithm specifically for the task of training database generation. The key idea is to start from a physically motivated sampler (e.g., molecular dynamics) and add a biasing term that drives the system towards high uncertainty and thus to unseen training configurations. Building on this framework, general protocols for building training databases for alloys and polymers leveraging the HAL framework will be presented. For alloys, ACE potentials for AlSi10 are created by fitting to a minimal HAL-generated database containing 88 configurations (32 atoms each) with fast evaluation times of <100 microsecond/atom/cpu-core. These potentials are demonstrated to predict the melting temperature with excellent accuracy. For polymers, a HAL database is built using ACE, able to determine the density of a long polyethylene glycol (PEG) polymer formed of 200 monomer units with experimental accuracy by only fitting to small isolated PEG polymers with sizes ranging from 2 to 32.

研究の動機と目的

• データ駆動型原子間ポテンシャルのための学習データベースを生成する際の高い計算コストと専門家依存の問題を解決すること。
• 標準的な分子動力学シミュレーションのサンプリングには、欠陥や遷移状態のような高エネルギー状態が十分にサンプリングされないという限界を克服すること。
• 情報的な構成を効率的に発見するための、体系的でアクティブラーニングに基づくフレームワークを構築すること。
• アルミ合金やポリマーのような複雑な系に対し、最小限の学習データで正確で汎用性のある原子間ポテンシャルを実現すること。

提案手法

• ベイジアン回帰による不確実性推定に基づき、予測不確実性が高い構成へと向かうバイアス項を分子動力学に導入する。
• ガウス過程回帰またはベイジアンリッジ回帰による不確実性推定を用い、ポテンシャルエネルギー表面の未到達領域へ向かう探索をガイドする。
• 原子クラスターエクスパンション（ACE）フレームワークを、原子間ポテンシャルのモデルアーキテクチャとして採用する。
• 自動関連性決定（ARD）を用いて不要な基底関数を削除し、モデルの一般化性能を向上させる。
• 証拠最大化を用いてベイジアンモデルのハイパーパrameterを最適化し、信頼性の高い不確実性評価を保証する。
• 不確実性がしきい値を超えた場合にのみ、新しい構成を学習データセットに追加するフィードバックループを実装し、効率的なデータ収集を実現する。

実験結果

リサーチクエスチョン

• RQ1 不確実性を基準にしたサンプリングは、正確な原子間ポテンシャルを学習するための第一原理計算の回数を著しく削減できるか？
• RQ2 高不確実性領域へのMDのバイアス化は、欠陥や遷移状態といった重要な構成のカバレッジをどのように向上させるか？
• RQ3 HALで学習されたモデルは、最小限の学習データでポリマーおよび合金のような複雑な系にどれほど一般化できるか？
• RQ4 HALは、小規模でアクティブに選別されたデータベースを用いても、融点や密度といったマクロな性質において実験的精度に達することができるか？
• RQ5 ベイジアン不確実性とMDシミュレーションを統合することで、ポテンシャル学習の効率性と信頼性はどのように向上するか？

主な発見

• AlSi10合金に対してHALが生成した88配置のデータベースは、1原子あたり100μs未塔の評価時間で実験的精度に達する融点予測を達成した。
• HALフレームワークにより、2～32モノマーの孤立したPEG断片にのみフィッティングしたモデルでも、200ユニットのポリエチレングリコール（PEG）鎖の密度を正確に予測できた。
• 不確実性に基づくバイアス化の導入により、広範なランダムサンプリングの必要性が削減され、高エネルギー状態のような重要な構成の発見が加速された。
• 自動関連性決定（ARD）を用いたベイジアンリッジ回帰は、スパarsityと一般化性能を両立させ、標準的な正則化回帰よりも精度とデータ効率に優れたモデルを実現した。
• フレームワークは、ベイジアンモデルからの不確実性評価を効果的にアクティブサンプリングのガイドとして用いることができることを示した。これにより、物理的に不適切なエネルギー極小値を回避し、モデルの安定性が向上した。
• HALフレームワークは、多様な物質分野において、学習データ生成の時間と計算コストを著しく削減しながら、モデルの精度を維持または向上させた。