[論文レビュー] Predicting Weather Uncertainty with Deep Convnets

Peter Grönquist, Tal Ben‐Nun+5 more|arXiv (Cornell University)|Nov 2, 2019

Meteorological Phenomena and Simulations被引用数 7

ひとこと要約

本稿では、数個の数値 weaer予測シミュレーションから学習することで、最小限の計算コストで天気予報の不確実性を予測するために3次元畳み込みニューラルネットワーク（Convnets）の使用を提案する。空間的および時間的ダイナミクスを組み込み、3次元U-Netアーキテクチャを適応させることで、5つのアンサンブル軌道に匹敵する分散推定精度を達成し、1つの摂動なしのシミュレーションでのみ実行可能であり、大規模なアンサンブル走行の必要性を顕著に低減する。

ABSTRACT

Modern weather forecast models perform uncertainty quantification using ensemble prediction systems, which collect nonparametric statistics based on multiple perturbed simulations. To provide accurate estimation, dozens of such computationally intensive simulations must be run. We show that deep neural networks can be used on a small set of numerical weather simulations to estimate the spread of a weather forecast, significantly reducing computational cost. To train the system, we both modify the 3D U-Net architecture and explore models that incorporate temporal data. Our models serve as a starting point to improve uncertainty quantification in current real-time weather forecasting systems, which is vital for predicting extreme events.

研究の動機と目的

• 大規模なアンサンブルシステムに代わる深層学習による不確実性定量化の計算負荷を低減すること。
• 深層学習モデルが、1つの摂動なしの軌道を含む少数のシミュレーションからのみ、予報分散を正確に推定できるかどうかを検討すること。
• 3次元U-Netおよびハイブリッドアーキテクチャ（例：CNN-LSTM）が、多圧力レベルの大気データにおける空間的および時間的依存性をどのようにモデル化できるかを評価すること。
• リアルタイム天気予報のための完全なアンサンブル分散を近似する深層学習の実現可能性を評価すること。

提案手法

• 圧力レベルおよびグリッドポイントを横断する空間情報を保持するために、残差スキップ接続を備えた3次元U-Netアーキテクチャを適応させた。
• 複数の大気パラメータおよび圧力レベルを横断する空間的関係をモデル化するために、アフィン畳み込みを組み込んだ。
• 時間的モデリングとして、過去の時間ステップに基づき、将来の時間ステップ（t = 3h, 6h）における予報分散を予測するためのCNN-LSTMアーキテクチャを検討した。
• 訓練・検証のための時系列バイアスを回避するために、2000–2011年のERA5再解析データを用い、2010–2011年をテストセットとし、80/20の分割をシャッフルして実施した。
• 高解像度グローバルデータを処理するため、分散データ並列学習を採用し、スケーラビリティを高めるためにパイプライン並列およびモデル並列化への拡張を計画した。
• 7つの圧力レベルおよび40×136の空間グリッドポイントで、温度、風、湿度などの入力データを標準化し、効率的な学習のためTFRecord形式に保存した。

実験結果

リサーチクエスチョン

• RQ1 1つの摂動なしのシミュレーションで学習した深層学習モデルは、大規模なアンサンブル予報システムの分散を高い精度で近似できるか？
• RQ2 3次元U-NetおよびハイブリッドCNN-LSTMアーキテクチャは、大気の不確実性の空間的および時間的ダイナミクスをどの程度正確にモデル化できるか？
• RQ3 初期パラメータ（例：風、湿度）を組み込むことで、モデルアーキテクチャそのもの以上の分散推定精度が向上するか？
• RQ4 入力軌道数の増加に伴いモデルの性能はどのように変化するか？また、完全なアンサンブルに近づくか？
• RQ5 複数の完全なNWPシミュレーションを実行するのと比較して、不確実性定量化のための深層学習の計算的利点は何か？

主な発見

• 1つの摂動なしの軌道のみを用いたベースライン3次元U-Netモデルは、4つの摂動付きアンサンブルメンバーと同等の分散推定精度を達成した。
• 多圧力レベル入力処理による空間的要因の組み込みにより、5つのアンサンブル軌道と同等の性能を達成し、ERA5アンサンブルサイズの半分に相当した。
• 時間的モデリングの導入により、t = 6hにおける予測精度が向上し、不確実性推定における時間的ダイナミクスの価値が示された。
• ENS10データセット（10メンバー）では、5つの入力軌道を超えると性能向上の効果が鈍り、小さなアンサンブルサイズによる飽和が示唆された。
• 1つのV100 GPU上で、7つの圧力レベルおよび1つの大気パラメータについて2日間の予報を約15msで実行したのに対し、51メンバーのアンサンブルではCray XC40スパコンで1時間かかった。
• わずかな改善にとどまったが、初期パラメータの入力をしても、アーキテクチャ設計の影響に比べて効果が小さく、モデル構造が予測性能を支配することが示された。