[論文レビュー] Super-resolution Probabilistic Rain Prediction from Satellite Data Using 3D U-Nets and EarthFormers

Yang Li, Haiyu Dong+3 more|arXiv (Cornell University)|Dec 6, 2022

Precipitation Measurement and Analysis被引用数 4

ひとこと要約

本論文は、8時間予報のためのマルチバンド衛星データを用いて、3D U-NetとEarthFormerを組み合わせたスーパーサンプル確率的雨予測モデルを提示している。2022年Weather4cast NeurIPSコンペティションで優れたパフォーマンスを達成した。最適な空間的文脈、クラス不均衡損失関数、モデルアンサンブル、しきい値最適化を活用し、雨量予測において最も予測能の高いバンドは8.7 μm（雲上部の状態）および10.8/13.4 μm（雲上部の高さ）であると特定された。

ABSTRACT

Accurate and timely rain prediction is crucial for decision making and is also a challenging task. This paper presents a solution which won the 2 nd prize in the Weather4cast 2022 NeurIPS competition using 3D U-Nets and EarthFormers for 8-hour probabilistic rain prediction based on multi-band satellite images. The spatial context effect of the input satellite image has been deeply explored and optimal context range has been found. Based on the imbalanced rain distribution, we trained multiple models with different loss functions. To further improve the model performance, multi-model ensemble and threshold optimization were used to produce the final probabilistic rain prediction. Experiment results and leaderboard scores demonstrate that optimal spatial context, combined loss function, multi-model ensemble, and threshold optimization all provide modest model gain. A permutation test was used to analyze the effect of each satellite band on rain prediction, and results show that satellite bands signifying cloudtop phase (8.7 um) and cloud-top height (10.8 and 13.4 um) are the best predictors for rain prediction. The source code is available at https://github.com/bugsuse/weather4cast-2022-stage2.

研究の動機と目的

• 高分解能衛星データを用いた短時間確率的雨予測の向上を通じて、気象予報における意思決定を改善すること。
• 衛星ベースの雨予測モデルにおける雨量分布の不均衡という課題に対処すること。
• 体系的な分析を通じて、降水予測に最も寄与する衛星バンドを特定すること。
• マルチモデルアンサンブル戦略としきい値最適化により、モデル性能を向上させること。
• 3D時空間データを用いた深層学習アーキテクチャを活用し、Weather4cast 2022 NeurIPSコンペティションで最先端の結果を達成すること。

提案手法

• マルチバンド衛星画像における時空間的ダイナミクスをモデル化するため、3D U-Netを採用し、長距離の空間的および時間的依存性を捉えた。
• 入力衛星データにおける長距離空間的文脈のモデリングを向上させるために、EarthFormerを統合し、特徴表現を強化した。
• 雨量イベントの分布が不均衡である状況に適した、異なる損失関数を用いて複数のモデルを訓練し、まれな降水量イベントの検出を改善した。
• 多様なモデルの予測を統合するマルチモデルアンサンブル学習を適用し、分散を低減し、モデルの頑健性を向上させた。
• バリデーションデータを用いて推論のしきい値を最適化し、BrierスコアやAUCなどの確率的予報スコア指標の向上を図った。
• 個々の衛星バンドが雨予測性能に与える寄与度を評価するために、順列検定を実施した。

実験結果

リサーチクエスチョン

• RQ1 8時間確率的雨予測において、衛星画像のどの空間的文脈範囲が最適な性能を示すか？
• RQ2 クラス不均衡な雨量データ下で、異なる損失関数がモデル性能にどのように影響するか？
• RQ3 赤外線および水蒸気帯域における衛星バンドのうち、どれが降水予測に最も寄与しているか？
• RQ4 モデルアンサンブルおよびしきい値最適化は、確率的予報の信頼性および正確性をどの程度向上させるか？
• RQ5 3D U-NetとEarthFormerは、降水予測のための時空間表現学習をどのように共同で強化するか？

主な発見

• アブレーション実験を通じて最適な空間的文脈範囲が特定され、Weather4castリーダーボードでのモデル性能が顕著に向上した。
• クラス不均衡に対処するための組み合わせ損失関数の使用により、弱い雨および中程度の雨量イベントの検出に明確な改善が得られた。
• 雲上部の状態を示す8.7 μmバンド、および雲上部の高さを示す10.8 μmおよび13.4 μmバンドが、雨量発生予測において最も予測能の高かった。
• マルチモデルアンサンブルとしきい値最適化により、BrierスコアやAUCを含む確率的予報スコアにわずかだが一貫した改善が得られた。
• 順列検定の結果、可視帯バンドよりも赤外線帯および水蒸気帯バンドが降水予測においてより情報量が多いことが確認された。
• 提案されたアーキテクチャとトレーニング戦略により、Weather4cast 2022 NeurIPSコンペティションで2位という競争力のあるリーダーボードスコアを達成した。