[論文レビュー] Application of Deep Convolutional Neural Networks for Detecting Extreme Weather in Climate Datasets

Yunjie Liu, Evan Racah+7 more|arXiv (Cornell University)|May 4, 2016

Traffic Prediction and Management Techniques参考文献 30被引用数 315

ひとこと要約

本論文は、気候データセット中の極端な気候イベント（tropical cyclones, atmospheric rivers, weather fronts）を検出するためのCNNベースのアプローチを提示し、高い精度を達成するとともに主観的なしきい値を回避します。

ABSTRACT

Detecting extreme events in large datasets is a major challenge in climate science research. Current algorithms for extreme event detection are build upon human expertise in defining events based on subjective thresholds of relevant physical variables. Often, multiple competing methods produce vastly different results on the same dataset. Accurate characterization of extreme events in climate simulations and observational data archives is critical for understanding the trends and potential impacts of such events in a climate change content. This study presents the first application of Deep Learning techniques as alternative methodology for climate extreme events detection. Deep neural networks are able to learn high-level representations of a broad class of patterns from labeled data. In this work, we developed deep Convolutional Neural Network (CNN) classification system and demonstrated the usefulness of Deep Learning technique for tackling climate pattern detection problems. Coupled with Bayesian based hyper-parameter optimization scheme, our deep CNN system achieves 89\%-99\% of accuracy in detecting extreme events (Tropical Cyclones, Atmospheric Rivers and Weather Fronts

研究の動機と目的

• 大規模な気候データセットにおける客観的でデータ駆動型の極端な気象パターン検出の必要性を動機づける。
• ラベル付き多変量データから高レベルな気候パターン表現を学習できる深層CNNアーキテクチャを開発する。
• 気候分析における主観的しきい値ベースのイベント定義への依存を減らす。
• モデル性能を向上させるためのベイズ最適化を実証する。
• 実データの気候データセットを用いて複数のイベントタイプに対するCNN性能を評価する。

提案手法

• CNNを用いた視覚的パターン認識タスクとして極端な気象検出を定式化する。
• ReLU活性化と最大プーリングを備えた浅い4層CNN（2つの畳み込み層、2つの全結合層）を構築する。
• イベントを中心とした画像パッチとして気候変数を積み重ね、モデル入力とする。
• 訓練のハイパーパラメータを調整するためにベイズ最適化（Spearmint）を適用する。
• Tropical Cyclones、Atmospheric Rivers、Weather Fronts 各々について別個のCNNを訓練・評価する。
• 最終層にはロジスティック活性化を用いてクラス確率を出力する。

実験結果

リサーチクエスチョン

• RQ1 多変量気候データから深層CNNがtropical cyclones、atmospheric rivers、weather frontsの識別表現を学習できるか。
• RQ2 ベイズ最適化されたハイパーパラメータを用いた浅いCNNで各イベントタイプに対してどの程度の分類精度が得られるか。
• RQ3 ラベル付き例から学習することで極端イベント検出における主観的しきい値を回避することは可能か。
• RQ4 データ制約を考慮した場合、イベントタイプ間で訓練時間と性能はどのように変化するか。

主な発見

イベントタイプ	訓練	テスト	訓練時間
Tropical Cyclone	99%	99%	≈30 min
Atmospheric River	90.5%	90%	6-7 hour
Weather Front	88.7%	89.4%	≈30 min

• Tropical cyclone の分類は訓練精度99%、テスト精度99%、訓練時間約30分で達成。
• Atmospheric river の分類は訓練精度90.5%、テスト精度90%、訓練時間6-7時間。
• Weather front の分類は訓練精度88.7%、テスト精度89.4%、訓練時間約30分。
• 小さく浅いアーキテクチャとウェイト減衰正則化のため、過学習は見られない。
• CNNは主観的しきい値に依存せず、ラベル付きデータから気候パターンを学習できる。