[論文レビュー] Conditional Local Convolution for Spatio-temporal Meteorological Forecasting

Haitao Lin, Zhangyang Gao+4 more|arXiv (Cornell University)|Jan 4, 2021

Meteorological Phenomena and Simulations被引用数 5

ひとこと要約

本論文は、局所的な空間的パターンを学習可能な位置に依存する畳み込みカーネルでモデル化することにより、不規則で球面的なセンサーネットワークにおける時空間的気象予測のための条件付き局所畳み込み（CLC）を提案する。この手法は、水平線マップを用いて局所的な幾何構造を円筒接空間に埋め込み、距離および方向のスケーリング項を導入して不規則なセンサ配置の影響を軽減する。再帰的ニューラルネットワーク（RNN）アーキテクチャを用いて、実世界の気象ベンチマークで最先端の性能を達成する。CLCRN。

ABSTRACT

Spatio-temporal forecasting is challenging attributing to the high nonlinearity in temporal dynamics as well as complex location-characterized patterns in spatial domains, especially in fields like weather forecasting. Graph convolutions are usually used for modeling the spatial dependency in meteorology to handle the irregular distribution of sensors' spatial location. In this work, a novel graph-based convolution for imitating the meteorological flows is proposed to capture the local spatial patterns. Based on the assumption of smoothness of location-characterized patterns, we propose conditional local convolution whose shared kernel on nodes' local space is approximated by feedforward networks, with local representations of coordinate obtained by horizon maps into cylindrical-tangent space as its input. The established united standard of local coordinate system preserves the orientation on geography. We further propose the distance and orientation scaling terms to reduce the impacts of irregular spatial distribution. The convolution is embedded in a Recurrent Neural Network architecture to model the temporal dynamics, leading to the Conditional Local Convolution Recurrent Network (CLCRN). Our model is evaluated on real-world weather benchmark datasets, achieving state-of-the-art performance with obvious improvements. We conduct further analysis on local pattern visualization, model's framework choice, advantages of horizon maps and etc.

研究の動機と目的

• 不規則に配置されたセンサと複雑で非定常的なダイナミクスを有する気象予測の課題に対処すること。
• 風の流れや温度移動など、地理的地域によって顕著に異なる局所的気象パターンをモデル化すること。
• 局所的な空間的幾何構造に適応するが、方向性を保持し、不規則なセンサ配置に対しても耐性を持つグラフベースの畳み込みを構築すること。
• 局所的パターンの滑らかさ仮定を畳み込みカーネル設計に組み込むことで、予測精度を向上させること。
• 実世界の気象データセット上でモデルを評価し、カーネル設計や特徴マップといった主要な構成要素をアブレーションすること。

提案手法

• 局所的な空間的幾何構造に基づいてノードごとに変化する、学習可能な位置に依存する畳み込みカーネルを提案し、局所的ノード表現からカーネルをパラメータ化するための順方向ネットワークを用いる。
• 局所的なセンサ座標を円筒接空間に射影する水平線マップを用い、地理的方位を保持し、一貫した局所的パターンモデル化を可能にする。
• 不規則なセンサ配置が畳み込みメッセージパッシングに与える影響を軽減するため、距離および方向のスケーリング項を導入する。
• 再帰的ニューラルネットワーク（RNN）アーキテクチャに条件付き局所畳み込みを統合し、時系列ダイナミクスをモデル化するCLCRNフレームワークを構築する。
• ノード表現を近隣集約により更新するグラフベースのメッセージパッシング機構を採用し、位置に適応するカーネルを用いる。
• 位置に特徴付けられたパターンの滑らかさ仮定を活用し、類似した地理的地域において局所的カーネルが一般化されることを保証する。

実験結果

リサーチクエスチョン

• RQ1 学習可能な位置に依存する畳み込みカーネルは、不規則に配置された気象センサにおける時空間的予測を向上させることができるか？
• RQ2 水平線マップを用いて局所的な空間的幾何構造をモデル化することは、気象予測モデルの精度およびロバストネスにどのように影響するか？
• RQ3 畳み込みカーネルにおける距離、方向、および学習された表現の相対的寄与度は、局所的パターン抽出にどの程度寄与するか？
• RQ4 提案されたCLCRNモデルは、複数の気象変数において、既存の最先端モデルと比較して予測精度で優れているか？
• RQ5 近隣サイズやネットワーク深さといった主要なハイパーパrameterの影響は、モデル性能にどのように現れるか？

主な発見

• CLCRNモデルは、実世界の気象予測ベンチマークで最先端の性能を達成し、12時間予測における気温で1.1688のMAE、雲量で1.4906のMAEを記録した。
• 水平線マップの使用は顕著に性能向上をもたらし、対数マップと比較して気温で0.095、雲量で0.069のMAE低減を達成した。
• アブレーションスタディの結果、角度スケーリング項が最も寄与しており、MLP + 角度の組み合わせが最良の結果をもたらした。
• 距離スケーリング項は最も寄与度が低く、距離のみを用いたモデルは性能が著しく低かったため、この文脈では幾何的方位が距離よりも効果的であることが示された。
• ベースラインと比較して、モデルは安定性と精度が向上し、特に湿度や風の変動が激しい状況でもRMSEおよびMAEが低く抑えられた。
• 局所的パターンの可視化から、学習されたカーネルが沿岸の前線やジェット気流といった地域的気象特徴に適応していることが確認され、局所的パターンモデル化アプローチの有効性が裏付けられた。