[論文レビュー] Ensemble weather forecast post-processing with a flexible probabilistic neural network approach

Peter Mlakar, Janko Merše+1 more|arXiv (Cornell University)|Mar 29, 2023

Meteorological Phenomena and Simulations被引用数 4

ひとこと要約

この論文では、正規化フローを用いてすべての場所とリードタイムを統合的にモデル化する、ニューラルネットワークベースの新しいアンサンブル予報後処理手法ANET2を提案する。これにより、柔軟で正確な確率的分布推定が可能となり、EUPPBenchベンチマークで先行手法、包括的でないANET1を上回る最先端の性能を達成する。これは、リードタイムごとや場所ごとのモデル適合を伴わず、統合的推論とより優れた分布モデル化によって実現される。

ABSTRACT

Ensemble forecast post-processing is a necessary step in producing accurate probabilistic forecasts. Conventional post-processing methods operate by estimating the parameters of a parametric distribution, frequently on a per-location or per-lead-time basis. We propose a novel, neural network-based method, which produces forecasts for all locations and lead times, jointly. To relax the distributional assumption of many post-processing methods, our approach incorporates normalizing flows as flexible parametric distribution estimators. This enables us to model varying forecast distributions in a mathematically exact way. We demonstrate the effectiveness of our method in the context of the EUPPBench benchmark, where we conduct temperature forecast post-processing for stations in a sub-region of western Europe. We show that our novel method exhibits state-of-the-art performance on the benchmark, outclassing our previous, well-performing entry. Additionally, by providing a detailed comparison of three variants of our novel post-processing method, we elucidate the reasons why our method outperforms per-lead-time-based approaches and approaches with distributional assumptions.

研究の動機と目的

• 表現力に限界のある、固定されたリードタイムごとや場所ごとのパrametric分布に依存する従来の後処理手法の限界を解消すること。
• すべての場所とリードタイムにわたる統合的確率的予測を実現する統一されたニューラルネットワークモデルの開発により、一般化性能と補正精度の向上を図ること。
• 正規化フローを用いて数学的に正確で柔軟な密度推定を実現することで、分布の仮定を緩和し、気温予報の非ガウス的分布を高精度に表現すること。
• 柔軟な分布モデル化が、実世界のベンチマーク環境における補正精度と予測性能に与える影響を評価すること。
• 高度な分布推定を用いた統合的モデリングが、標準的なリードタイムごとのアプローチやパラメトリック手法を著しく上回ることを実証すること。

提案手法

• ANET2は、生のアンサンブル予報、ステーション埋め込み表現、時系列特徴を処理する深層ニューラルネットワークアーキテクチャを採用し、すべての場所とリードタイムにわたって、統合的かつエンドツーエンドで分布パラメータを予測する。
• 複雑で非ガウス的な予報分布の正確な密度推定を実現するため、スプライン変換を用いた連続的正規化フローを採用する。
• 適切なスコアルール（例：ログスコア）を用いて訓練することで、確率的予報の質を最適化し、良好に補正され、鋭い予測分布を保証する。
• 正規化フローがベース分布から予報分布への単調かつ可逆な変換を提供するため、構造的に分位数の交差を回避する。
• 比較のための変種として、ANET2_NORMは固定された正規分布を用い、ANET2_BERNはベルンシュタイン分位数回帰を用いる。これにより、分布仮定のアブレーションが可能となる。
• 推論パイプラインは、D51テストデータセット（167,170件の予報）を1分未満で処理でき、ANET2はGPU上で36.08秒で処理を完了する。

Figure 1: The neural network architecture of ANET1. The parameter f denotes the number of features in a dense layer. The parameters t and p denote the lead time and the number of per-lead-time parameters required by the normal distribution model. The circular blocks denote the following operations:

実験結果

リサーチクエスチョン

• RQ1 すべての場所とリードタイムにわたる統合的モデリングは、リードタイムごとや場所ごとのアプローチと比較して、補正精度と鋭さを向上させるか？
• RQ2 正規化フローを用いることで、パラメトリックな仮定なしに柔軟で正確な分布推定が可能となり、確率的予報性能が顕著に向上するか？
• RQ3 正規分布、ベルンシュタイン、正規化フローといった異なる分布推定器は、予測精度と計算コストの観点でどのように比較されるか？
• RQ4 実世界の気象環境において、分布仮定を緩和することで、予報品質はどの程度向上するか？
• RQ5 正規化フローのモデル複雑性の増加が、標準化されたベンチマーク上での予報スキルの向上という形で正当化されるか？

主な発見

• ANET2はEUPPBenchベンチマークで最先端の性能を達成し、ログスコア、CRPS、信頼性図のすべての評価指標で、先行手法であるANET1を上回った。
• ANET2における正規化フローの使用により、正確な非パラメトリック密度推定が可能となり、分位数の交差などの問題が解消され、補正精度が向上した。
• ANET2の分布モデルには840パラメータを要するが、ANET2_NORM（42）やANET2_BERN（273）と比較して顕著に多く、それでも予測性能が最良であった。
• 計算コストが高めであるものの、ANET2はGPU上で167,170件のD51テストデータセットを36.08秒で処理でき、実用的な実装可能性を示した。
• アブレーションスタディの結果、場所とリードタイムにわたる統合的モデリングは、リードタイムごとのアプローチよりも効果的であり、特に柔軟な分布推定と組み合わせた場合に顕著な効果を示した。
• ANET2の優れた性能は、統一されたアーキテクチャと、複雑で非ガウス的な予報分布をよりよく捉える正規化フローの表現力の両方によるものである。

Figure 2: The neural network architecture of ANET2. The parameter f denotes the number of features in a dense layer. The parameters t and p denote the lead time and the number of per-lead-time parameters required by the normalizing flow. The circular blocks denote the following operations: M denotes