[論文レビュー] Climate-Invariant Machine Learning

Tom Beucler, Pierre Gentine+11 more|arXiv (Cornell University)|Dec 14, 2021

Climate variability and models被引用数 28

ひとこと要約

本論文は climate-invariant ML を紹介する。物理的に情報を取り入れた枠組みで、入力/出力を変換して学習された写像を気候を超えて安定させ、3つの大気モデルにおけるサブグリッド閉じの汎化を改善する。

ABSTRACT

Projecting climate change is a generalization problem: we extrapolate the recent past using physical models across past, present, and future climates. Current climate models require representations of processes that occur at scales smaller than model grid size, which have been the main source of model projection uncertainty. Recent machine learning (ML) algorithms hold promise to improve such process representations, but tend to extrapolate poorly to climate regimes they were not trained on. To get the best of the physical and statistical worlds, we propose a new framework - termed "climate-invariant" ML - incorporating knowledge of climate processes into ML algorithms, and show that it can maintain high offline accuracy across a wide range of climate conditions and configurations in three distinct atmospheric models. Our results suggest that explicitly incorporating physical knowledge into data-driven models of Earth system processes can improve their consistency, data efficiency, and generalizability across climate regimes.

研究の動機と目的

• 気候域を横断して一般化し、気候予測における外挿誤差を低減する ML モデルの必要性を動機づける。
• 気候間で入力/出力の分布を揃える気候不変変換を定義し実装する。
• 複数の大気モデルと構成に跨る climate-invariant ML 閉じの頑健性と汎化を示す。
• 物理的変換と正則化を組み合わせることでデータ効率と気候間の転移を改善する方法を探る。

提案手法

• 気候間で分布が最小限しか変化しないよう入力/出力を変換して climate-invariant mapping の概念を導入する。
• 相対湿度、潤湿静エネルギー浮力、地表付近の潜熱フラックスなどの入力に対する物理情報を取り入れた変換を開発する。
• cold, reference, and warm climate runs の3つの嵐解像気候モデル（SPCAM3、SPCESM2、SAM）でML閉じを訓練・評価する。
• CI と RD を比較し、正則化（バッチ正規化、ドロップアウト）の影響を評価する。
• サブグリッド加熱・加湿傾向を含む地球系関連の出力を用いて汎化を評価する。
• SHAP ベースの説明可能AIを適用して、なぜ climate-invariant mappings が気候を跨ってより良く汎化するのかを解釈する。

実験結果

リサーチクエスチョン

• RQ1 物理情報を取り入れた入力変換は、サブグリッド閉じのML写像を気候を跨いで安定化させることができるか。
• RQ2 気候不変変換は、異なる気候体制と構成の分布外一般化をより良く可能にするか。
• RQ3 正則化技術が climate-invariant 入力とどのように相互作用して汎化に影響を与えるか。
• RQ4 気候不変写像は、生データ写像と比べてどんな構造的差異を示すか。

主な発見

• 入力を気候情報を含む関数で変換することにより、ML閉じの気候を跨ぐ汎化が著しく向上する。
• 寒冷な気候で訓練した Climate-invariant NN は、RAW-data NN よりも大幅に低い誤差で暖かい気候へ一般化する。
• 気候不変変換と正則化 (BN, DP) の組み合わせが、気候と構成を跨る最良の汎化をもたらす。
• CI mappings は空間的に局所的である傾向があり、SHAP 分析による解釈性を高める。
• CI モデルは暖かい気候で訓練した場合と同程度の性能を維持しつつ、RD モデルに典型的な外挿の危険性を回避する。