[论文解读] Ultra-Fast Reactive Transport Simulations When Chemical Reactions Meet Machine Learning: Chemical Equilibrium

Allan M. M. Leal, Dmitrii A. Kulik+1 more|arXiv (Cornell University)|Aug 16, 2017

Machine Learning in Materials Science被引用 9

一句话总结

本文提出了一种机器学习方法，通过利用附近过去的解来预测新的化学平衡状态，从而加速反应运移模拟中的化学平衡计算，避免了昂贵的迭代计算。该方法通过按需训练和一阶导数的应用，实现了高达100倍的加速，实现了无需预先统计训练的实时、精确预测。

ABSTRACT

During reactive transport modeling, the computational cost associated with chemical reaction calculations is often 10-100 times higher than that of transport calculations. Most of these costs results from chemical equilibrium calculations that are performed at least once in every mesh cell and at every time step of the simulation. Calculating chemical equilibrium is an iterative process, where each iteration is in general so computationally expensive that even if every calculation converged in a single iteration, the resulting speedup would not be significant. Thus, rather than proposing a fast-converging numerical method for solving chemical equilibrium equations, we present a machine learning method that enables new equilibrium states to be quickly and accurately estimated, whenever a previous equilibrium calculation with similar input conditions has been performed. We demonstrate the use of this smart chemical equilibrium method in a reactive transport modeling example and show that, even at early simulation times, the majority of all equilibrium calculations are quickly predicted and, after some time steps, the machine-learning-accelerated chemical solver has been fully trained to rapidly perform all subsequent equilibrium calculations, resulting in speedups of almost two orders of magnitude. We remark that our new on-demand machine learning method can be applied to any case in which a massive number of sequential/parallel evaluations of a computationally expensive function $f$ needs to be done, $y=f(x)$. We remark, that, in contrast to traditional machine learning algorithms, our on-demand training approach does not require a statistics-based training phase before the actual simulation of interest commences. The introduced on-demand training scheme requires, however, the first-order derivatives $\\partial f/\\partial x$ for later smart predictions.

研究动机与目标

• 解决反应运移模拟中占主导地位的计算瓶颈，即化学平衡计算耗时是运移过程的10至100倍。
• 克服传统迭代求解器的局限性，即使在收敛速度快的情况下，其重复评估热力学性质和求解线性系统仍导致高昂开销。
• 开发一种机器学习框架，实现在无需预模拟训练阶段的情况下，快速、准确地预测化学平衡状态。
• 通过利用一阶导数指导基于先前已求解的相似平衡问题的智能预测，实现在模拟过程中实时、按需学习。
• 在反应运移案例研究中展示该方法的有效性，即使在模拟早期阶段也实现了显著的性能提升。

提出的方法

• 在先前求解的平衡问题数据库中执行最近邻查找，以找到最相似的输入条件。
• 基于一阶导数的线性近似，通过向量加法和矩阵乘法，从最近的先前解估计新的平衡组成。
• 应用轻量级接受准则来验证预测的平衡状态，确保精度而不进行完整重新计算。
• 通过仅在预测失败时存储新解的方式，在模拟过程中动态训练模型，避免预先收集数据。
• 利用只有少量网格单元在任意时刻经历高反应性的事实，使预测在性能提升方面极为有效。
• 使用平衡函数的雅可比矩阵（偏导数 ∂f/∂x）计算基于敏感性的校正，实现对相似化学状态之间的准确外推。

实验结果

研究问题

• RQ1 是否可以使用机器学习在无需先验训练数据的情况下加速反应运移模拟中的化学平衡计算？
• RQ2 与标准迭代求解器相比，按需、基于导数的预测在多大程度上可降低计算成本？
• RQ3 当任意时间步仅少数单元经历显著化学变化时，该方法在减少模拟时间方面的有效性如何？
• RQ4 该方法能否在跳过如活度系数评估和线性系统求解等昂贵操作的同时保持高精度？
• RQ5 在真实反应运移模型中使用智能平衡算法时，可实现的性能提升是多少？

主要发现

• 所提出的机器学习方法通过加速化学平衡计算，在反应运移模拟中实现了近两个数量级（最高约100倍）的加速。
• 即使在模拟早期，大多数平衡计算也能通过快速利用附近过去的解来预测，从一开始就减轻了计算负载。
• 在几个时间步后，模型完全训练完成，能够快速且准确地预测所有后续平衡状态，且重新计算极少。
• 该方法通过依赖基于敏感性的近似，跳过了如活度系数评估和线性系统求解等昂贵的迭代操作。
• 按需训练方法消除了对大规模预模拟数据集的需求，并避免了传统训练阶段何时终止的不确定性。
• 该方法具有通用性，适用于任何需要重复评估计算代价高昂函数 y = f(x) 的问题，尤其适用于输入条件渐进演化的场景。