[論文レビュー] MS-nowcasting: Operational Precipitation Nowcasting with Convolutional LSTMs at Microsoft Weather

Sylwester Klocek, Haiyu Dong+8 more|arXiv (Cornell University)|Nov 18, 2021

Meteorological Phenomena and Simulations参考文献 17被引用数 17

ひとこと要約

MS-nowcasting は、大規模な空間的受容 field (LV) と HRRR 物理ベース予測を統合することで、運用用の短時間降雨予測を向上させる ConvLSTM に基づく深層学習モデルであり、6時間の予測リードタイムにおいて、光学フローと HRRR のベースラインを 20–25% 上回る性能を複数の指標で達成しており、1枚の GPU で効率的に動作する。

ABSTRACT

We present the encoder-forecaster convolutional long short-term memory (LSTM) deep-learning model that powers Microsoft Weather's operational precipitation nowcasting product. This model takes as input a sequence of weather radar mosaics and deterministically predicts future radar reflectivity at lead times up to 6 hours. By stacking a large input receptive field along the feature dimension and conditioning the model's forecaster with predictions from the physics-based High Resolution Rapid Refresh (HRRR) model, we are able to outperform optical flow and HRRR baselines by 20-25% on multiple metrics averaged over all lead times.

研究の動機と目的

• Microsoft Weather の運用用途に適した高精度・低遅延の降雨短時間予測システムを開発すること。
• HRRR のような従来の NWP モデルが被るスピンアップ遅延や数時間を超えると精度が低下するという限界を克服すること。
• 長距離の空間的文脈と物理ベースの事前知識を組み込むことで、レーダーのみの深層学習手法を改善すること。
• 最小限のハードウェア要件で実時間かつ高リフレッシュレートの予測を可能とし、極端な天候の早期警戒を支援すること。
• 計算効率の良いアーキテクチャを用いて、短時間降雨予測分野で最先端の性能を達成すること。

提案手法

• モデルは、MRMS データセットのレーダー反射率入力系列を用いる3層のエンコーダー・フォレーザー ConvLSTM アーキテクチャを採用している。
• 独創的な大視野（LV）技術により、1280×1280 km のレーダー領域を25個の空間的セグメントに分割し、25×256×256 の特徴テンソルにスタックすることで、空間的文脈を拡大している。
• フォレーザーは HRRR のレーダー反射率予測によって条件付けられており、物理的整合性を確保するとともに、降雨の発生および消滅の予測精度を向上させている。
• 安定した学習のため、MAE と MSE の損失関数の組み合わせに B-MAE のしきい値を適用し、Adam 最適化法に確率的重み平均化（SWA）を適用し、勾配クリッピングを実施している。
• 多GPU環境における効率的学習と低遅延推論を実現するため、DeepSpeed フレームワークを用いて学習と推論を高速化している。
• 2018 年の MRMS データから 1000 万個の 440 分間の系列を用いて学習を行い、入力が 80 分、予測ターゲットが 360 分である。2019 年のテストデータを用いて評価している。

実験結果

リサーチクエスチョン

• RQ1 大規模な空間的文脈と物理ベースの予測を統合した深層学習モデルは、レーダーのみのモデルや NWP ベースラインを上回る降雨短時間予測性能を達成できるか？
• RQ2 HRRR の出力を用いて ConvLSTM フォレーザーを条件付けすることで、短時間降雨予測の精度とバイアスにどのような影響を与えるか？
• RQ3 標準的な空間的ビューポートを超えて入力受容 field を拡大することで、短時間予測性能にどのような影響を与えるか？
• RQ4 最小限のハードウェア要件で運用可能な高精度な短時間予測モデルを実現でき、8 枚の GPU で 2 分未満の遅延を達成できるか？
• RQ5 異なる損失関数と最適化戦略は、生成されたレーダー反射率予測の滑らかさと現実性にどのような影響を与えるか？

主な発見

• LV と HRRR 条件付けを併用した MS-nowcasting モデルは、最初の2時間において平均絶対誤差（MAE）が 3.23 dBZ にまで低下し、HRRR（5.54 dBZ）と光学フロー（4.39 dBZ）を含むすべてのベースラインを上回った。
• LV のみを用いたモデルは MAE を 3.28 dBZ まで低下させ、12 dBZ における F1 スコアを 0.808 まで向上させ、拡張された空間的文脈の価値を示した。
• HRRR 条件付けを追加すると MAE は 3.55 dBZ に改善されたが、F1 スコアはわずかに低下（0.780）し、バイアスと閾値検出の間にはトレードオフがあることが示された。
• 完全なモデル（LV + HRRR）は、MAE 3.23 dBZ、F1 0.813、MS-SSIM 0.6721、PSNR 24.03 という最高の総合的性能を達成し、すべての指標でベースラインを上回った。
• レーダー観測データの入手からエンドツーエンドの予測生成まで約6分で実現でき、8 GPU での推論遅延は2分未満であった。
• 高い性能を発揮したが、MAE + MSE 損失関数のため、予測結果がやや滑らかになりすぎており、GAN ベースの損失関数を用いることでさらなる改善が期待できる。