[论文解读] Arrhenius.jl: A Differentiable Combustion SimulationPackage

Weiqi Ji, Xingyu Su+7 more|arXiv (Cornell University)|Jun 19, 2021

Advanced Combustion Engine Technologies参考文献 38被引用 5

一句话总结

Arrhenius.jl 是一个基于 Julia 构建的可微分燃烧模拟软件包，利用自动微分技术实现了化学动力学模型的高效、精确的梯度计算。它与 DifferentialEquations.jl、ForwardDiff.jl 和 Flux.jl 集成，支持不确定性量化、动力学模型降维、数据同化以及数据驱动的模型发现——通过成功训练一个包含数百个参数的 CRNN-HyChem 模型来预测 JP10 的点火延迟时间，实现了高精度。

ABSTRACT

Combustion kinetic modeling is an integral part of combustion simulation, and extensive studies have been devoted to developing both high fidelity and computationally affordable models. Despite these efforts, modeling combustion kinetics is still challenging due to the demand for expert knowledge and optimization against experiments, as well as the lack of understanding of the associated uncertainties. Therefore, data-driven approaches that enable efficient discovery and calibration of kinetic models have received much attention in recent years, the core of which is the optimization based on big data. Differentiable programming is a promising approach for learning kinetic models from data by efficiently computing the gradient of objective functions to model parameters. However, it is often challenging to implement differentiable programming in practice. Therefore, it is still not available in widely utilized combustion simulation packages such as CHEMKIN and Cantera. Here, we present a differentiable combustion simulation package leveraging the eco-system in Julia, including DifferentialEquations.jl for solving differential equations, ForwardDiff.jl for auto-differentiation, and Flux.jl for incorporating neural network models into combustion simulations and optimizing neural network models using the state-of-the-art deep learning optimizers. We demonstrate the benefits of differentiable programming in efficient and accurate gradient computations, with applications in uncertainty quantification, kinetic model reduction, data assimilation, and model discovery.

研究动机与目标

• 为解决大规模参数优化中燃烧动力学建模的梯度计算效率低、精度差的问题。
• 使随机梯度下降（SGD）和现代深度学习优化器在燃烧建模中的应用成为可能，这些方法目前因缺乏可微分模拟工具而未被充分利用。
• 将基于物理的燃烧模拟与可微分编程生态系统集成，以支持数据驱动的机理发现与校准。
• 通过高效的梯度评估，促进化学动力学中的不确定性量化、模型降维与数据同化。
• 提供一个开源、可扩展的框架，同时支持传统动力学建模与新兴的物理信息神经网络方法。

提出的方法

• 利用 Julia 生态系统，包括使用 DifferentialEquations.jl 求解化学动力学产生的刚性常微分方程，以及使用 ForwardDiff.jl 实现精确、高效的前向模式自动微分。
• 在基本计算模块（如反应源项）和完整模拟器之间支持可微分编程，实现端到端的梯度计算。
• 通过 Flux.jl 集成神经网络，构建混合模型（如化学反应神经网络 CRNN），其中反应速率由可学习权重参数化。
• 在训练过程中通过将化学计量系数投影到元素守恒空间，强制施加物理约束（如元素守恒）。
• 对化学计量系数施加正则化，并固定关键参数（如 JP10 反应物系数设为 -1），以提高数值稳定性和收敛性。
• 使用拉丁超采样生成多样化的热力学条件（1–60 atm，1100–1800 K，φ = 0.5–1.5），用于 CRNN 模型的训练与验证。

实验结果

研究问题

• RQ1 在高性能模拟软件包如 Arrhenius.jl 中使用可微分编程，是否能够实现对复杂燃烧动力学模型的高效且精确的梯度计算？
• RQ2 Arrhenius.jl 在从实验数据中实现数据驱动的化学机理发现方面，特别是针对 JP10 等复杂燃料，其支持程度如何？
• RQ3 使用 Arrhenius.jl 训练的 CRNN 模型在预测点火延迟时间方面，与现有成熟动力学机理相比表现如何？
• RQ4 Arrhenius.jl 是否能有效支持高维参数空间中的不确定性量化与模型降维？
• RQ5 将物理信息神经网络与自动微分技术结合，是否能够提升动力学模型的泛化能力与外推性能？

主要发现

• Arrhenius.jl 有效实现了燃烧系统的端到端可微分模拟，在数百个模型参数下均实现了准确且高效的梯度计算。
• 使用 Arrhenius.jl 训练的 CRNN-HyChem 模型在广泛条件（1–60 atm，1100–1800 K，φ = 0.5–1.5）下准确预测了 JP10 的点火延迟时间，与原始 HyChem 模型结果高度一致。
• CRNN 模型中学习到的反应路径主要为 H 原子提取反应，与专家推导的机理一致，尽管在定量上存在差异，表明其具有发现新机理的潜力。
• 该软件包支持包含数百个参数的复杂模型训练——这仅通过自动微分实现，有限差分方法无法实现。
• 通过整合物理约束（如元素守恒）与正则化，显著提升了训练过程中的数值稳定性和收敛性。
• Arrhenius.jl 通过提供可靠的梯度用于优化，实现了不确定性量化、模型降维与数据同化等高级工作流。