[论文解读] Machine Learning Approaches to Learn HyChem Models

Weiqi Ji, Julian Zanders+2 more|arXiv (Cornell University)|Jan 1, 2021

Advanced Combustion Engine Technologies参考文献 35被引用 6

一句话总结

本文提出一种基于随机梯度下降（SGD）的机器学习方法，通过点火延迟时间数据优化喷气燃料F-24的HyChem模型，将化学动力学模型视为神经网络。该方法相比遗传算法将计算成本降低了1,000倍，同时提升了低温区的准确性，并通过正则化技术保持了机理可解释性。

ABSTRACT

The HyChem approach has recently been proposed for modeling high-temperature combustion of real, multi-component fuels. The approach combines lumped reaction steps for fuel thermal and oxidative pyrolysis with detailed chemistry for the oxidation of the resulting pyrolysis products. However, the approach usually shows substantial discrepancies with experimental data within the Negative Temperature Coefficient (NTC) regime, as the low-temperature chemistry is more fuel-specific than high-temperature chemistry. This paper proposes a machine learning approach to learn the HyChem models that can cover both high-temperature and low-temperature regimes. Specifically, we develop a HyChem model using the experimental datasets of ignition delay times covering a wide range of temperatures and equivalence ratios. The chemical kinetic model is treated as a neural network model, and we then employ stochastic gradient descent (SGD), a technique that was developed for deep learning, for the training. We demonstrate the approach in learning the HyChem model for F-24, which is a Jet-A derived fuel, and compare the results with previous work employing genetic algorithms. The results show that the SGD approach can achieve comparable model performance with genetic algorithms but the computational cost is reduced by 1000 times. In addition, with regularization in SGD, the SGD approach changes the kinetic parameters from their original values much less than genetic algorithm and is thus more likely to retrain mechanistic meanings. Finally, our approach is built upon open-source packages and can be applied to the development and optimization of chemical kinetic models for internal combustion engine simulations.

研究动机与目标

• 解决基于遗传算法优化在HyChem模型开发中计算成本高且泛化能力有限的问题。
• 提升模型在负温度系数（NTC）区域的准确性，该区域低温化学行为高度依赖于燃料类型。
• 开发一种可扩展、高效且可解释的方法，仅基于点火延迟时间数据学习HyChem模型。
• 通过开源工具实现数据驱动动力学建模在内燃机模拟中的实际应用。

提出的方法

• 将化学动力学机理视为具有单隐藏层的深度神经网络，从而可应用深度学习优化技术。
• 采用带小批量更新和训练数据随机打乱的随机梯度下降（SGD）方法，优化裂解子模型中的速率常数。
• 应用正则化技术（如早停法和交叉验证）以防止过拟合并提升泛化能力。
• 在包含96组点火延迟时间（IDT）测量值的数据集上训练模型，覆盖广泛的温度和当量比范围。
• 以简化版的Jet-A HyChem模型为基础，通过SGD优化裂解步骤的动力学参数，使其匹配实验IDT数据。
• 使用开源软件包实现该框架，确保可复现性，并可轻松扩展至其他燃料和动力学体系。

实验结果

研究问题

• RQ1 能否有效将随机梯度下降（SGD）应用于仅基于点火延迟时间数据的实燃料HyChem模型优化？
• RQ2 在高、低温区域，SGD优化方法与遗传算法相比在准确性方面表现如何？
• RQ3 与遗传算法相比，SGD中的正则化在多大程度上保持了原始基础模型的机理完整性？
• RQ4 与遗传算法相比，SGD在优化HyChem模型时的计算成本降低了多少？
• RQ5 SGD优化的模型是否比遗传算法训练的模型具有更好的泛化能力？

主要发现

• SGD优化的F-24 HyChem模型在所有温度区域的准确性与遗传算法优化模型相当，且在负温度系数（NTC）区域表现显著提升。
• 与遗传算法相比，SGD方法的计算成本降低了约1,000倍，仅需约100个计算单元，而遗传算法需约105个计算单元。
• SGD中的正则化仅对原始动力学参数造成微小调整，远小于遗传算法引起的参数变化，从而更好地保持了机理可解释性。
• 由于内置正则化，模型泛化能力更强，表现为验证损失稳定且早停机制有效防止了过拟合。
• SGD优化模型在约60个周期后验证损失趋于平稳，最佳性能检查点选在第58个周期。
• 该方法基于开源工具实现，可轻松扩展至其他复杂动力学体系和燃料在发动机模拟中的应用。