[论文解读] Active learning of potential-energy surfaces of weakly-bound complexes with regression-tree ensembles

Yahya Saleh, Vishnu Sanjay+3 more|arXiv (Cornell University)|Apr 1, 2021

Machine Learning in Materials Science参考文献 100被引用 7

一句话总结

该论文提出了一种新颖的主动学习框架，利用回归树集成方法高效构建弱结合分子复合物的精确势能面（PES）。通过结合不确定性采样与基于随机查询森林（stochastic query by forest）的分布感知采样，该方法相比基于不确定性的查询委员会（query-by-committee）方法，将所需的电子结构计算量减少了约50%，在6D吡咯(H₂O) PES上使用约50,000个构型实现了11 cm⁻¹的一般化误差。

ABSTRACT

Several pool-based active learning algorithms (AL) were employed to model potential energy surfaces (PESs) with a minimum number of electronic structure calculations. Theoretical and empirical results suggest that superior strategies can be obtained by sampling molecular structures corresponding to large uncertainties in their predictions while at the same time not deviating much from the true distribution of the data. To model PESs in an AL framework we propose to use a regression version of stochastic query by forest, a hybrid method that samples points corresponding to large uncertainties while avoiding collecting too many points from sparse regions of space. The algorithm is implemented with decision trees that come with relatively small computational costs. We empirically show that this algorithm requires around half the data to converge to the same accuracy in comparison to the uncertainty-based query-by-committee algorithm. Moreover, the algorithm is fully automatic and does not require any prior knowledge of the PES. Simulations on a 6D PES of \pyrrolew show that $\mathord{<}15\,000$ configurations are enough to build a PES with a generalization error of 16~\invcm, whereas the final model with around 50\,000 configurations has a generalization error of 11~\invcm.

研究动机与目标

• 最小化构建弱结合分子复合物精确从头计算势能面（PES）所需的昂贵电子结构计算次数。
• 通过在采样策略中整合数据分布感知能力，解决基于不确定性的主动学习常查询异常值和稀疏区域的局限性。
• 开发一种完全自动化、可扩展且计算高效的PES构建方法，无需事先了解PES的任何信息。
• 证明回归树集成方法在数据效率和收敛速度方面优于传统基于不确定性的查询委员会方法。

提出的方法

• 采用基于池的主动学习框架，其中一组未标记的分子几何构型被迭代查询以进行能量计算。
• 采用随机查询森林（SQF）的回归版本，选择预测不确定性高的构型，同时避免在稀疏数据区域过度采样。
• 使用决策树作为基学习器，因其计算成本低，并且可通过集成方差实现内在的不确定性估计。
• 整合随机森林回归的不确定性量化结果，以在每次迭代中引导选择最具信息量的几何构型。
• 应用混合采样策略，平衡不确定性降低与数据分布保真度，防止对异常值的过度采样。
• 在每次新增数据点后重新训练和微调回归模型，并施加正则化约束以确保泛化能力。

实验结果

研究问题

• RQ1 结合不确定性与数据分布感知的混合主动学习策略是否能提升PES构建中的数据效率？
• RQ2 所提出的基于回归树的主动学习方法与基于不确定性的查询委员会方法相比，在收敛速度和数据效率方面表现如何？
• RQ3 该方法在复杂且弱结合的PES上，能在多大程度上减少电子结构计算次数，同时保持低的一般化误差？
• RQ4 该方法是否可以完全自动化，而无需事先了解PES或关键点（如能量极小点和鞍点）的信息？
• RQ5 在高维PES（如6D）上，对于弱结合复合物（如吡咯(H₂O)），使用最少数量的构型能达到何种精度？

主要发现

• 所提出的基于回归树集成的主动学习方法，实现相同精度所需的构型数量比基于不确定性的查询委员会算法减少约50%。
• 在吡咯(H₂O)的6D势能面上，该方法在构型数少于15,000个时即实现了16 cm⁻¹的一般化误差。
• 当使用约50,000个构型时，最终模型的一般化误差达到11 cm⁻¹，表明在中等数据需求下实现了高精度。
• 该方法完全自动化，无需事先了解PES信息（如极小点或鞍点位置），具有广泛适用性。
• 使用决策树可实现低计算开销，使该方法可扩展至高维PES并支持迭代优化。
• 实证结果证实，平衡不确定性与数据分布可带来优于纯不确定性驱动采样的更优收敛行为。