[論文レビュー] Orders-of-magnitude speedup in atmospheric chemistry modeling through neural network-based emulation

Makoto Kelp, Christopher W. Tessum+1 more|arXiv (Cornell University)|Aug 11, 2018

Air Quality Monitoring and ForecastingEnvironmental Science被引用数 20

ひとこと要約

本稿では、大気化学モデルにおけるCBM-Z化学機構のための深層ニューラルネットワークエミュレータを提示する。CPU上では250倍、GPU上では4,250倍の高速化を達成し、中央値のRMSEは0.02 ppb未満である。モデルは多様な条件下で77種の物質の1時間ごとの濃度変化を正確に再現でき、主要な化学的ダイナミクスを保持したまま、迅速なシミュレーションを可能にする。

ABSTRACT

Chemical transport models (CTMs), which simulate air pollution transport, transformation, and removal, are computationally expensive, largely because of the computational intensity of the chemical mechanisms: systems of coupled differential equations representing atmospheric chemistry. Here we investigate the potential for machine learning to reproduce the behavior of a chemical mechanism, yet with reduced computational expense. We create a 17-layer residual multi-target regression neural network to emulate the Carbon Bond Mechanism Z (CBM-Z) gas-phase chemical mechanism. We train the network to match CBM-Z predictions of changes in concentrations of 77 chemical species after one hour, given a range of chemical and meteorological input conditions, which it is able to do with root-mean-square error (RMSE) of less than 1.97 ppb (median RMSE = 0.02 ppb), while achieving a 250x computational speedup. An additional 17x speedup (total 4250x speedup) is achieved by running the neural network on a graphics-processing unit (GPU). The neural network is able to reproduce the emergent behavior of the chemical system over diurnal cycles using Euler integration, but additional work is needed to constrain the propagation of errors as simulation time progresses.

研究の動機と目的

• 化学輸送モデル（CTM）の計算コストを削減すること。CTMは、高価な化学機構計算に制限を受ける。
• 高い忠実度でCBM-Z化学機構の挙動を再現する機械学習サーヴィレートを開発すること。
• 正確性を維持したまま、1日周期の気象サイクルにおける大気化学の迅速なシミュレーションを可能にすること。
• 深層学習を用いて、大気質モデリングにおける複雑で結合された微分方程式系をエミュレートする可能性を評価すること。

提案手法

• 17層の残差多目的回帰ニューラルネットワークを用い、大気処理1時間後の77種の化学種の濃度変化を予測する。
• 入力データには初期濃度、排出量、気象変数が含まれ、出力はCBM-Zモデルの予測と一致する。
• 多様な化学的および気象的条件下でのCBM-Zシミュレーションの大規模データセットを用いてモデルを訓練する。
• 訓練済みのニューラルネットワークをCPUおよびGPUで実行し、計算の高速化と推論効率を評価する。
• 1日周期のシミュレーションにはオイラー法を用い、エミュレータが時間経過に伴う顕在的化学的挙動を維持できるかをテストする。
• 長期的な安定性と正確性を評価するため、誤差伝搬をモニタリングする。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、広範な大気的条件下でCBM-Z化学機構を正確にエミュレートできるか？
• RQ2 ニューラルネットワークサーヴィレートは、大気化学モデリングにおける計算時間の短縮にどの程度寄与できるか？
• RQ3 エミュレータは、1日周期にわたって化学系の顕在的挙動をどの程度正確に保持できるか？
• RQ4 長期間にわたるシミュレーション期間における誤差蓄積が、ニューラルネットワークエミュレータに与える影響は何か？

主な発見

• ニューラルネットワークエミュレータは、77種の化学種において中央値の平均二乗誤差（RMSE）が0.02 ppbであり、最大RMSEは1.97 ppb未満であった。
• 元のCBM-Zモデルと比較して、CPU上で実行した場合に250倍の高速化が達成された。
• GPU上で実行した場合、さらに17倍の高速化が達成され、合計で4,250倍の高速化が得られた。
• オイラー法を用いたシミュレーションにより、エミュレータは1日周期における化学系の顕在的挙動を成功裏に再現した。
• 誤差伝搬は依然として課題であり、長期シミュレーションの安定性を保証するためのさらなる作業が必要である。
• 訓練済みモデルおよびトレーニングコードは、対応著者より要請に応じて研究利用可能である。