[論文レビュー] Adversarial autoencoders and adversarial LSTM for improved forecasts of urban air pollution simulations

César Quilodrán Casas, Rossella Arcucci+3 more|arXiv (Cornell University)|Apr 13, 2021

Wind and Air Flow Studies参考文献 18被引用数 19

ひとこと要約

本論文は、CFDシミュレーションからの都市大気汚染の長期予測を改善するために、PCAに基づく敵対的オートエノード（PC-AAE）と敵対的に訓練されたLSTMを組み合わせた2段階のディープラーニングフレームワークを提案する。敵対的訓練により潜在空間の一貫性を強制することで、物理的モデルからの予測の乖離を低減し、CFDより4桁の速度向上を達成しながら、80ステップのサウスロンドンのシミュレーションで優れた精度と物理的現実性を実現した。

ABSTRACT

This paper presents an approach to improve the forecast of computational fluid dynamics (CFD) simulations of urban air pollution using deep learning, and most specifically adversarial training. This adversarial approach aims to reduce the divergence of the forecasts from the underlying physical model. Our two-step method integrates a Principal Components Analysis (PCA) based adversarial autoencoder (PC-AAE) with adversarial Long short-term memory (LSTM) networks. Once the reduced-order model (ROM) of the CFD solution is obtained via PCA, an adversarial autoencoder is used on the principal components time series. Subsequentially, a Long Short-Term Memory network (LSTM) is adversarially trained on the latent space produced by the PC-AAE to make forecasts. Once trained, the adversarially trained LSTM outperforms a LSTM trained in a classical way. The study area is in South London, including three-dimensional velocity vectors in a busy traffic junction.

研究の動機と目的

• 長期間にわたる予測において、標準的なRNNベースのサーヴィレートモデルが物理的CFD解から急速に乖離する問題に対処すること。
• 都市大気汚染シミュレーションの低次元モデル（ROM）におけるデータ圧縮と予測安定性を向上させること。
• 敵対的訓練を活用して、モデルの潜在空間を事前分布に一致させることで、一般化性能と物理的妥当性を向上させること。
• 十分な訓練データがある場合に適用可能な、データに依存しないスケーラブルなフレームワークを構築すること。

提案手法

• CFDシミュレーションの3次元速度場に対してPCAに基づく次元削減を実施し、最初のτ個の主成分（PC）を保持することで低次元モデル（ROM）を構築する。
• PC時系列にPCAに基づく敵対的オートエノード（PC-AAE）を訓練する。生成器（エンコーダ-デコーダ）とディスクラミネーターを用い、潜在空間の集約事後分布を標準ガウス事前分布に一致させる。
• 再パrameter化トリックを用いて、確率的潜在変数を介したバックプロパゲーションを可能にし、オートエノードの微分可能な訓練を保証する。
• PC-AAEが出力する潜在空間に、敵対的に訓練されたLSTM（ALSTM）を訓練する。ディスクラミネーターは、生成された潜在系列と実際の潜在系列の間の一貫性を強制する。
• ALSTMは自己回帰的に将来の潜在状態を予測し、その後PC-AAEのデコーダを介してフルスケールの速度場に再変換することで予測を生成する。
• 本フレームワークは、100,040ノード、1,000ステップの3次元都市大気汚染シミュレーション（720m×676m×250mの領域、現実的な境界条件を想定）を用いて評価された。

実験結果

リサーチクエスチョン

• RQ1 CFDシミュレーションからの主成分の圧縮と再構成忠実度を向上させるために、オートエノードの敵対的訓練は有効か？
• RQ2 PC-AAEの潜在空間上でLSTMを敵対的に訓練することで、長期間予測における物理的モデルからの予測乖離が低減するか？
• RQ3 提案されたALSTMフレームワークは、古典的LSTMおよび単純なPC截断と比較して、予測精度と物理的現実性において優れているか？
• RQ4 潜在空間次元（τ）が変化しても、フレームワークの性能が著しく低下しないか？
• RQ5 敵対的訓練は、都市大気汚染予測のサーヴィレートモデルの一般化性能とロバスト性をどの程度向上させるか？

主な発見

• PC-AAEは、主成分の単純な截断と比較して再構成誤差が低く、異なる潜在次元（τ = 4, 8, 16, 32）において一貫した性能を示した。
• 80ステップ経過後、敵対的に訓練されたLSTM（ALSTM）は、古典的LSTMと比較して予測誤差を40％低減した。アンサンブル予測における平均絶対誤差と標準偏差も顕著に低かった。
• 80ステップ経過後、古典的LSTMの予測は真値から著しく乖離したが、ALSTMは図3の可視化により、渦や渦流といった主要な物理的特徴を保持していた。
• ALSTMは、フルCFDシミュレーションと比較して4桁の速度向上を達成し、ニアリアルタイムの予測を可能にした。
• 潜在空間次元に強く依存しないロバストな性能を示し、最適な性能はτ = 8で観察され、フルスケールから潜在空間への5桁の圧縮が達成された。
• ディスクラミネーターは潜在空間を効果的に制約し、分布外のサンプルを防ぎ、長期予測の安定性を向上させた。