[論文レビュー] AutoML-Based Drought Forecast with Meteorological Variables

Shiheng Duan, Xiurui Zhang|arXiv (Cornell University)|Jun 9, 2022

Hydrology and Drought Analysis被引用数 12

ひとこと要約

本稿では、気象変数および静的環境変数を用いて、米国における干ばつ状況を最大6週間先まで予測する、AutoMLベースのフレームワークを提案する。LSTM や Transformer といった深層学習モデルと同等または優れた性能を達成しており、特に短期予測（第1週）において顕著である。データおよび計算リソースの要求が低減されており、自動機械学習（AutoML）が水文気象モデリングのための実用的で軽量なベンチマークとして有効であることを示している。

ABSTRACT

A precise forecast for droughts is of considerable value to scientific research, agriculture, and water resource management. With emerging developments of data-driven approaches for hydro-climate modeling, this paper investigates an AutoML-based framework to forecast droughts in the U.S. Compared with commonly-used temporal deep learning models, the AutoML model can achieve comparable performance with less training data and time. As deep learning models are becoming popular for Earth system modeling, this paper aims to bring more efforts to AutoML-based methods, and the use of them as benchmark baselines for more complex deep learning models.

研究の動機と目的

• 複雑な深層学習モデルへの依存を減らすために、自動機械学習（AutoML）を用いたデータ駆動型の干ばつ予測フレームワークの開発を目的とする。
• LSTM や Transformer といった最先端の深層学習モデルと比較して、AutoGluon の性能を、気象変数および静的変数を用いた米国における干ばつ予測において評価すること。
• AutoML が、より少ない訓練データ、時間、計算リソースで深層学習と同等または優れた性能を達成できることを示すこと。
• 地球システム科学におけるより複雑な深層学習モデルの評価のためのベンチマークとして、AutoML が適切な基準となるかを検討すること。
• AutoGluon 内部の木ベースのモデルを活用することで、干ばつ予測における解釈可能性とモデルの透明性を向上させること。

提案手法

• 本研究では、カウンティ単位の干ばつモニタリング、NASA POWER や統合世界土壌図鑑から得た180日分の気象変数（例：降水量、気温）および静的特徴（例：勾配、土地利用）を含む DroughtED ベンチマークデータセットを用いる。
• AutoGluon を AutoML フレームワークとして採用し、回帰および分類タスクの両方において、LightGBM、XGBoost、CatBoost、FastAI ニューラルネットワークを含む単層スタッキングアンサンブルを用いる。
• 入力特徴量は、気象変数に対して中央値と四分位範囲（IQR）、静的特徴量に対して平均と標準偏差を用いて正規化される。
• ベンチマークに利用可能な検証データが限られている（2010–2011年）ため、学習データの60％を学習に、残りの40％を検証に使用する。
• 性能評価は、1～6週のリードタイムにおいて、回帰タスクでは平均絶対誤差（MAE）、分類タスクではマクロ平均F1スコアを用いる。
• 木ベースのモデル（例：LightGBM）を活用することで、AutoGluon 内部のモデル解釈性を向上させ、特徴量の重要度分析や透明な意思決定経路を可能にする。

実験結果

リサーチクエスチョン

• RQ1 AutoGluon などの AutoML フレームワークは、LSTM や Transformer といった深層学習モデルと同等または優れた干ばつ予測性能を達成できるか？
• RQ2 AutoML は、水文気象予測において、大規模な訓練データや高コストな計算リソース（例：GPU）の必要性を低減できるか？
• RQ3 モデルの性能は、1～6週の異なる予報リードタイムにおいてどのように変化するか？また、初期予報と長期予報の両方において、AutoML が優位性を維持できるか？
• RQ4 複雑なニューラルネットワークと比較して、AutoML モデルは地球システム科学の応用において、より優れた解釈可能性と説明可能性を提供できるか？
• RQ5 AutoML は、干ばつ予測におけるより複雑な深層学習モデルの評価のための適切なベンチマーク基準となるか？

主な発見

• 第1週の干ばつ予測において、AutoGluon は最高の F1 スコア（0.837）と最小の MAE（0.111）を達成し、LSTM や Transformer モデルを上回った。
• AutoGluon は全リードタイムで競争力のある性能を維持し、F1 スコアは第2週で 0.696、第6週で 0.479 であった。分類タスクにおいて、第5週および第6週では単一の深層学習モデルを上回った。
• 回帰タスクでは、第1週に MAE が最小（0.111）を記録したが、第2～5週では深層学習モデル（LSTM+Transformer）が優れた性能を示し、中期間予測に高い非線形性が存在することを示唆した。
• 予報リードタイムが延びるにつれてモデル性能は低下したが、これは干ばつ予測の一般的な傾向に一致しており、AutoGluon は後期の週においても高い安定性を示した。
• AutoGluon の軽量なアーキテクチャと木ベースのモデルの活用により、高速な学習と計算リソースの削減が可能となり、GPU を利用可能な研究者にとっても適した選択肢となった。
• 本研究では、解釈可能なコンponents を備えた AutoML モデルが、地球システム科学における複雑な深層学習モデルのための効果的で透明な基準となる可能性を示唆している。