[论文解读] Thermodynamically Informed Multimodal Learning of High-Dimensional Free Energy Models in Molecular Coarse Graining

Blake Duschatko, Xiang Fu+5 more|arXiv (Cornell University)|May 29, 2024

Advanced Surface Polishing TechniquesEngineering被引用 3

一句话总结

该论文提出了一种可微分的、热力学一致的框架，用于在分子粗粒化中学习高维自由能模型，通过将显式的温度和参数依赖性嵌入机器学习模型中。通过利用精确的热力学关系——特别是自由能、系综平均力和势能之间的联系——该方法在学习效率和准确性方面超越了标准力匹配方法，实现了更优的采样统计性能，并能精确恢复复杂、多模态系统的玻尔兹曼分布。

ABSTRACT

We present a differentiable formalism for learning free energies that is capable of capturing arbitrarily complex model dependencies on coarse-grained coordinates and finite-temperature response to variation of general system parameters. This is done by endowing models with explicit dependence on temperature and parameters and by exploiting exact differential thermodynamic relationships between the free energy, ensemble averages, and response properties. Formally, we derive an approach for learning high-dimensional cumulant generating functions using statistical estimates of their derivatives, which are observable cumulants of the underlying random variable. The proposed formalism opens ways to resolve several outstanding challenges in bottom-up molecular coarse graining dealing with multiple minima and state dependence. This is realized by using additional differential relationships in the loss function to significantly improve the learning of free energies, while exactly preserving the Boltzmann distribution governing the corresponding fine-grain all-atom system. As an example, we go beyond the standard force-matching procedure to demonstrate how leveraging the thermodynamic relationship between free energy and values of ensemble averaged all-atom potential energy improves the learning efficiency and accuracy of the free energy model. The result is significantly better sampling statistics of structural distribution functions. The theoretical framework presented here is demonstrated via implementations in both kernel-based and neural network machine learning regression methods and opens new ways to train accurate machine learning models for studying thermodynamic and response properties of complex molecular systems.

研究动机与目标

• 为解决在分子粗粒化中学习能够捕捉复杂、多模态分布和状态依赖行为的高维自由能模型的挑战。
• 通过将热力学一致性融入学习目标，克服标准力匹配和迭代玻尔兹曼反演的局限性。
• 通过联合损失函数利用力和全原子势能数据，实现高效且准确的平均势能（PMF）模型学习。
• 确保精确保持控制全原子系统的玻尔兹曼分布，维持跨尺度的热力学一致性。
• 通过在真实粗粒化模拟中使用基于核函数（高斯过程）和神经网络的模型，展示该框架的有效性。

提出的方法

• 通过使用切比雪夫多项式展开引入温度和参数依赖的描述符，将热力学变量直接嵌入模型架构中。
• 将自由能学习表述为通过其导数的统计估计（可观测量累积量，如力和势能）对累积量生成函数进行回归。
• 利用精确的微分热力学关系构建可微分损失函数，包括自由能、系综平均力以及自由能对系统参数导数之间的联系。
• 将力和全原子势能数据整合到联合损失函数中，提升模型泛化能力和收敛性。
• 在高斯过程和神经网络模型中均实现该方法，通过网络架构中的温度嵌入捕捉有限温度响应。
• 通过保持粗粒化模型与底层全原子系统之间的热力学关系，确保精确的玻尔兹曼一致性。

实验结果

研究问题

• RQ1 能否通过显式嵌入温度和参数依赖性，使用于粗粒化自由能学习的机器学习模型具备可微分性和热力学一致性？
• RQ2 与标准力匹配相比，将自由能与全原子势能系综平均值之间的热力学关系纳入模型，如何提升学习效率和准确性？
• RQ3 该框架在多最小值、强状态依赖的复杂多模态自由能景观中，能够多大程度上实现精确捕捉？
• RQ4 损失函数中联合优化力和势能是否能带来更优的结构分布函数采样统计性能？
• RQ5 所提出的方法是否能在保持与全原子参考系统精确玻尔兹曼一致性的前提下，实现比REM或IBI等现有方法更快、更准确的训练？

主要发现

• 与标准力匹配相比，该热力学信息学习框架显著改善了复杂、多模态自由能景观系统中结构分布函数的采样统计性能。
• 将力和全原子势能数据同时纳入损失函数，相比仅使用力的训练，可实现更快的收敛速度和更高的准确性，经验证，力的均方误差降低，结构分布的一致性得到改善。
• 该方法精确保持了全原子系统的玻尔兹曼分布，确保了粗粒化与全原子系综之间的热力学一致性。
• 基于切比雪夫多项式的温度依赖描述符能够准确建模有限温度响应，并提升在不同热力学状态下的泛化能力。
• 该框架在基于核函数（高斯过程）和神经网络模型中均成功实现，展示了其在不同机器学习架构中的广泛适用性。
• 包含力和能量项的联合损失函数起到了正则化作用，提升了模型鲁棒性和泛化能力，尤其在自由能表面数据稀疏区域表现更优。