[論文レビュー] Active learning of potential-energy surfaces of weakly-bound complexes with regression-tree ensembles

Yahya Saleh, Vishnu Sanjay+3 more|arXiv (Cornell University)|Apr 1, 2021

Machine Learning in Materials Science参考文献 100被引用数 7

ひとこと要約

本稿では、弱い結合を持つ分子複合体の正確なポテンシャルエネルギーサーフェス（PES）を効率的に構築するため、回帰木アンサンブルを用いた新しいアクティブラーニングフレームワークを提案する。不確実性サンプリングと、stochastic query by forestを用いた分布に配慮したサンプリングを組み合わせることで、不確実性に基づくクエリ・バイ・コミ mittee と比較して、電子構造計算の必要回数を約50%削減した。6次元のピルロール(H₂O) PESにおいて、約50,000配置で一般化誤差11 cm⁻¹を達成した。

ABSTRACT

Several pool-based active learning algorithms (AL) were employed to model potential energy surfaces (PESs) with a minimum number of electronic structure calculations. Theoretical and empirical results suggest that superior strategies can be obtained by sampling molecular structures corresponding to large uncertainties in their predictions while at the same time not deviating much from the true distribution of the data. To model PESs in an AL framework we propose to use a regression version of stochastic query by forest, a hybrid method that samples points corresponding to large uncertainties while avoiding collecting too many points from sparse regions of space. The algorithm is implemented with decision trees that come with relatively small computational costs. We empirically show that this algorithm requires around half the data to converge to the same accuracy in comparison to the uncertainty-based query-by-committee algorithm. Moreover, the algorithm is fully automatic and does not require any prior knowledge of the PES. Simulations on a 6D PES of \pyrrolew show that $\mathord{<}15\,000$ configurations are enough to build a PES with a generalization error of 16~\invcm, whereas the final model with around 50\,000 configurations has a generalization error of 11~\invcm.

研究の動機と目的

• 弱い結合を持つ分子複合体の正確なab initioポテンシャルエネルギーサーフェス（PES）を構築するために必要な高価な電子構造計算の回数を最小限に抑えること。
• 不確実性に基づくアクティブラーニングの限界（しばしば外れ値やスパarsな領域をクエリする）を解消するため、データ分布への配慮をサンプリング戦略に統合すること。
• PESに関する事前の知識を必要とせず、完全に自動的かつスケーラブルで計算的に効率的なPES構築手法を開発すること。
• 回帰木アンサンブルが、従来の不確実性に基づくクエリ・バイ・コミット方式に比べて、データ効率性と収束速度の両面で優れていることを示すこと。

提案手法

• ラベルなしの分子配置のプールを反復的にエネルギー計算用にクエリするプールベースのアクティブラーニングフレームワークを採用する。
• stochastic query by forest（SQF）の回帰版を用いて、高い予測不確実性を持つ配置を選択すると同時に、スパースなデータ領域での過剰なサンプリングを回避する。
• 計算コストが低く、アンサンブル分散による不確実性推定が可能なため、決定木をベース推定器として採用する。
• ランダムフォレスト回帰による不確実性評価を統合し、各反復で情報量の多い配置を選択する。
• 不確実性低減とデータ分布の忠実度の両立を図るハイブリッドサンプリング戦略を適用し、外れ値の過剰サンプリングを防ぐ。
• 新しいデータ点が追加されるたびに回帰モデルを再訓練し、一般化を保証するための正則化制約を適用する。

実験結果

リサーチクエスチョン

• RQ1 不確実性とデータ分布への配慮を組み合わせたハイブリッドアクティブラーニング戦略は、PES構築におけるデータ効率性を向上させることができるか？
• RQ2 提案された回帰木ベースのアクティブラーニング手法は、不確実性に基づくクエリ・バイ・コミット方式と比較して、収束速度とデータ効率性の面で優れているか？
• RQ3 複雑で弱い結合を持つPESにおいて、一般化誤差を低く保ちながら、電子構造計算の回数をどの程度削減できるか？
• RQ4 PESの事前の知識（例えば、エネルギー極小点や鞍点の位置）がなくても、この手法は完全に自動化可能か？
• RQ5 弱い結合を持つ複合体（例：ピルロール(H₂O)）の高次元PES（例：6次元）において、最小限の配置数でどの程度の精度が達成できるか？

主な発見

• 回帰木アンサンブルを用いた提案手法は、不確実性に基づくクエリ・バイ・コミット方式と同等の精度に到達するための配置数を約50%削減した。
• ピルロール(H₂O)の6次元ポテンシャルエネルギーサーフェスにおいて、15,000未満の配置で一般化誤差16 cm⁻¹を達成した。
• 約50,000の配置を用いることで、最終的なモデルは一般化誤差11 cm⁻¹を達成し、中程度のデータ要件で高い精度を実現した。
• この手法は完全に自動的であり、PESの極小点や鞍点の位置などの事前の知識を必要としないため、広く適用可能である。
• 決定木の使用により、計算オーバーヘッドが低く抑えられ、高次元PESへのスケーラビリティと反復的精錬の両面で優れた性能を発揮する。
• 実験的結果から、不確実性とデータ分布の両方をバランスさせることで、純粋に不確実性に依存するサンプリングに比べて優れた収束特性が得られることを確認した。