[论文解读] Orders-of-magnitude speedup in atmospheric chemistry modeling through neural network-based emulation

Makoto Kelp, Christopher W. Tessum+1 more|arXiv (Cornell University)|Aug 11, 2018

Air Quality Monitoring and ForecastingEnvironmental Science被引用 20

一句话总结

本论文提出了一种用于大气化学模型中CBM-Z化学机制的深度神经网络模拟器，实现了CPU上250倍、GPU上4,250倍的加速，且中位均方根误差（RMSE）低于0.02 ppb。该模型在多种条件下准确复现了77种物种在1小时内的浓度变化，实现了快速模拟的同时保留了关键的化学动力学特性。

ABSTRACT

Chemical transport models (CTMs), which simulate air pollution transport, transformation, and removal, are computationally expensive, largely because of the computational intensity of the chemical mechanisms: systems of coupled differential equations representing atmospheric chemistry. Here we investigate the potential for machine learning to reproduce the behavior of a chemical mechanism, yet with reduced computational expense. We create a 17-layer residual multi-target regression neural network to emulate the Carbon Bond Mechanism Z (CBM-Z) gas-phase chemical mechanism. We train the network to match CBM-Z predictions of changes in concentrations of 77 chemical species after one hour, given a range of chemical and meteorological input conditions, which it is able to do with root-mean-square error (RMSE) of less than 1.97 ppb (median RMSE = 0.02 ppb), while achieving a 250x computational speedup. An additional 17x speedup (total 4250x speedup) is achieved by running the neural network on a graphics-processing unit (GPU). The neural network is able to reproduce the emergent behavior of the chemical system over diurnal cycles using Euler integration, but additional work is needed to constrain the propagation of errors as simulation time progresses.

研究动机与目标

• 降低化学传输模型（CTMs）的计算成本，因为其受限于昂贵的化学机制计算。
• 开发一种机器学习代理模型，以高保真度复现CBM-Z化学机制的行为。
• 实现在保持精度的前提下，对昼夜循环的快速大气化学模拟。
• 评估使用深度学习模拟空气质量建模中复杂、耦合的微分方程系统的技术可行性。

提出的方法

• 训练一个17层的残差多目标回归神经网络，用于预测经过一小时大气过程后77种化学物种浓度的变化。
• 网络以初始浓度、排放量和气象变量作为输入，输出与CBM-Z模型预测结果一致。
• 使用涵盖多种化学与气象条件的大规模CBM-Z模拟数据集进行模型训练。
• 将训练好的神经网络在CPU和GPU上执行，以评估计算加速效果和推理效率。
• 采用欧拉积分法模拟昼夜循环，测试模拟器在长时间内保持化学系统涌现行为的能力。
• 监控误差传播，以评估长期模拟中的稳定性和精度。

实验结果

研究问题

• RQ1 深度神经网络能否在广泛的大气条件下准确模拟CBM-Z化学机制？
• RQ2 神经网络代理在多大程度上能够减少大气化学建模中的计算时间？
• RQ3 该模拟器在昼夜循环中多大程度上保持了化学系统的涌现行为？
• RQ4 在长时间模拟周期中，神经网络模拟器的误差累积会产生何种影响？

主要发现

• 该神经网络模拟器在77种化学物种上的中位均方根误差（RMSE）为0.02 ppb，最大RMSE低于1.97 ppb。
• 与原始CBM-Z模型相比，该模型在CPU上实现了250倍的加速。
• 当在GPU上运行时，额外获得17倍的加速，总计实现4,250倍的加速。
• 通过欧拉积分法，该模拟器成功复现了化学系统在昼夜循环中的涌现行为。
• 误差传播仍是挑战，需进一步工作以确保长期模拟的稳定性。
• 经通讯作者许可，训练好的模型和训练代码可提供给研究机构使用。