[論文レビュー] Adversarially trained LSTMs on reduced order models of urban air pollution simulations

César Quilodrán Casas, Rossella Arcucci+2 more|arXiv (Cornell University)|Jan 5, 2021

Wind and Air Flow Studies参考文献 17被引用数 13

ひとこと要約

本稿では、都市部の大気汚染CFDシミュレーションのポテンシャルオрソゴナル分解（POD）に基づく低次元モデル（ROM）に敵対的訓練を施したLSTMを提案し、予測精度と安定性を向上させることを目的としている。主成分分析（PCA）で次元削減された状態ベクトルと敵対的訓練を統合することで、時間経過に伴う発散を抑えるより高速でより頑健な予測が実現され、検証データ上での誤差低減率が標準LSTMに比べ最大56%に達する一方で、ほぼリアルタイムの推論速度を維持している。

ABSTRACT

This paper presents an approach to improve computational fluid dynamics simulations forecasts of air pollution using deep learning. Our method, which integrates Principal Components Analysis (PCA) and adversarial training, is a way to improve the forecast skill of reduced order models obtained from the original model solution. Once the reduced-order model (ROM) is obtained via PCA, a Long Short-Term Memory network (LSTM) is adversarially trained on the ROM to make forecasts. Once trained, the adversarially trained LSTM outperforms a LSTM trained in a classical way. The study area is in London, including velocities and a concentration tracer that replicates a busy traffic junction. This adversarially trained LSTM-based approach is used on the ROM in order to produce faster forecasts of the air pollution tracer.

研究の動機と目的

• CFDシミュレーションを用いた都市部の大気汚染予測のための高速かつ高精度なサーヴィレートモデルの開発。
• 訓練データ外の予測において、標準的なLSTMベースのROMで生じる誤差の累積と予測の発散を是正すること。
• 敵対的訓練をLSTMベースのROMに統合することで、予測の頑健性と物理的妥当性を向上させること。
• フルCFDシミュレーションの計算コストの一部にとどまる範囲で、ほぼリアルタイムの予測を可能にすること。
• 十分なデータが得られるさまざまなCFD変数やシミュレーションに適用可能なデータに依存しないフレームワークの構築。

提案手法

• 非構造格子を用いた高次元CFDシミュレーションデータに対して、適切な直交分解（POD）を用いて低次元モデル（ROM）を構築する。
• PODプロセスにより主要成分（PC）を切断することで次元を削減しつつ、主要な分散を保持し、計算を効率化する。
• N個の過去の時間ステップを入力として用い、次の時間ステップのPC係数を予測するための通常のLSTMを訓練する。
• 敵対的訓練として、識別器ネットワークを導入し、実際のROM状態とLSTMが生成した予測を区別する。損失関数にはバイナリクロスエントロピー損失を用いる。
• 生成器（LSTM）は識別器を欺くように訓練され、長期予測の現実性と安定性が向上する。
• 生成器のためのピecewise平均二乗誤差損失と識別器のための敵対的損失を用いて、フレームワーク全体をエンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 敵対的訓練は、都市部の大気汚染の低次元モデルにおけるLSTMベースの予測の長期的安定性と精度を向上させることができるか？
• RQ2 時間経過に伴う予測発散の低減という観点で、敵対的訓練は標準的な教師あり学習に比べてどのように優れているか？
• RQ3 敵対的に訓練されたLSTMは、CFDベースの大気質シミュレーションにおいて物理的妥当性をどの程度保持できるか？
• RQ4 本手法はフルCFDシミュレーションに比べて、どの程度の計算効率の向上を達成できるか？
• RQ5 本フレームワークは、異なる変数（例：速度、トレーサ濃度）やシミュレーションタイプに一般化可能か？

主な発見

• 敵対的に訓練されたLSTM（LSTM^{adv}）は、検証データ上でのトレーサ濃度予測において、標準LSTM（LSTM^{classic}）に比べ最大56.29%の誤差低減を達成した。
• 速度成分に関しては、誤差低減率が21.07%から51.39%の範囲にあり、128PCで最大の改善が観察された。
• 25ステップの予測後、標準LSTMは真値から著しく発散したが、敵対的に訓練されたLSTMは物理的流れのパターンを保持し、真値に近い状態を維持した。
• 本手法はフルCFDシミュレーションの4桁分の速さを達成し、ほぼリアルタイムの応用が可能になった。
• 識別器はLSTMの予測を効果的に制約し、分布外のずれを低減させ、予測の頑健性を向上させた。
• 本フレームワークは、速度とトレーサ濃度という異なる変数、および64PCと128PCという異なるPCA切断レベルにおいて、一貫した性能を示した。