[論文レビュー] Latent diffusion models for generative precipitation nowcasting with accurate uncertainty quantification

Jussi Leinonen, Ulrich Hamann+3 more|arXiv (Cornell University)|Apr 25, 2023

Precipitation Measurement and Analysis被引用数 25

ひとこと要約

本論文は、アンサンブル降水量の現在予報のための潜在拡散モデルLDCastを導入し、CRPS全データセットでDGMRおよび PySTEPSを上回る、正確な不確実性定量と多様な予報を実現します。

ABSTRACT

Diffusion models have been widely adopted in image generation, producing higher-quality and more diverse samples than generative adversarial networks (GANs). We introduce a latent diffusion model (LDM) for precipitation nowcasting - short-term forecasting based on the latest observational data. The LDM is more stable and requires less computation to train than GANs, albeit with more computationally expensive generation. We benchmark it against the GAN-based Deep Generative Models of Rainfall (DGMR) and a statistical model, PySTEPS. The LDM produces more accurate precipitation predictions, while the comparisons are more mixed when predicting whether the precipitation exceeds predefined thresholds. The clearest advantage of the LDM is that it generates more diverse predictions than DGMR or PySTEPS. Rank distribution tests indicate that the distribution of samples from the LDM accurately reflects the uncertainty of the predictions. Thus, LDMs are promising for any applications where uncertainty quantification is important, such as weather and climate.

研究の動機と目的

• 短期の降水量現在予報の動機づけと、下流の水文応用のための現実的な不確実性定量の必要性。
• 潜在拡散モデル（LDM）ベースの現在予報システム（LDCast）を開発し、潜在空間で動作して学習安定性と効率を向上させる。
• 予測不確実性をとらえるためのアンサンブル予報の生成を可能にし、既存の方法と比較する。
• 域内スイスデータと域外ドイツデータでの堅牢性と一般化を実証する。

提案手法

• LDCastを提案する。条件付き潜在拡散モデルで、フォーキャスター・スタックはAFNOsによる時系列クロスアテンション、3D畳み込みデノイザー、およびピクセル空間と潜在空間の写像を行う変分オートエンコーダ（VAE）を含む。
• 過去の降水量に条件づけて32個のアンサンブルメンバーを生成する、PLMSベースの反復サンプラー（50ステップ）を使用。
• VAEを最初に学習し、その後フォーキャスターとデノイザーを diffusion フレームワークでL2損失とともに共同訓練。
• 相対誤差を強調するために対数変換で降水量を前処理し、アーチファクトを緩和するためにガウス抗エイリアシングを適用。
• スイスのレーダー基データ（訓練ドメイン）とドイツのレーダーデータ（out-of-domain）で、CRPS、LogCRPS、ランク分布、Fractions Skill Score (FSS)を用いて評価。
• DGMR（条件GAN）と PySTEPS（統計的現在予報）と比較。

実験結果

リサーチクエスチョン

• RQ1 潜在拡散モデルは最近のレーダー観測からの多様で現実的なアンサンブル現在予報を信頼性高く生成できますか？
• RQ2 LDCastはGANベースおよび統計的ベースラインと比較して不確実性定量（例: ランク分布が均等に近い）を改善しますか？
• RQ3 異なる空間スケールとリードタイム（out-of-domainデータを含む）でCRPSとイベントベーススキル（FSS）の面でLDCastはどのように性能しますか？

主な発見

• LDCastはSwissおよびGermanデータセットでCRPSにおいてDGMRおよびPySTEPSを上回り、長いリードタイムやより大きなスケールでより大きな利得を示す。
• DGMRは過剰に自信のあるアンサンブルを生みがちで多様性が低い一方、LDCastはより多様な予報を生み出す。
• LDCastのランク分布は理想的な均等分布に最も近く、不確実性表現がより現実的であることを示す（均等分布からのKLダイバージェンスが小さい）。
• FSSの閾値超過スキルには混合の改善が見られる。SwissデータではDGMRと比較して競争力があり、PySTEPSより一般的に良好だがドイツデータには地域差がある。
• LDCastは約53時間（128x128で8 Nvidia V100 GPU、その後256x256へファインチューニングで約5時間）と substantial だが実現可能な訓練時間と、1つのアンサンブルメンバーをGPUでサンプリングするのに約19秒という費用を要し、訓練効率と生成コストのトレードオフを示す。
• In-domainのSwissデータはOut-of-domain GermanデータよりCRPSとFSSの利点が強いが、不確実性定量はドメインを超えても堅牢である。