[論文レビュー] Machine Learning Climate Model Dynamics: Offline versus Online Performance

Noah Brenowitz, Brian Henn+6 more|arXiv (Cornell University)|Nov 5, 2020

Meteorological Phenomena and Simulations参考文献 12被引用数 39

ひとこと要約

この論文は、3 kmの全球気候モデルにおける湿潤物理のパラメータ化としてランダムフォレストとニューラルネットワークを比較し、オフラインのNN精度を示す一方でオンライン不安定性が見られ、RFはオンラインで控えめな利得とともに安定性を保つ。

ABSTRACT

Climate models are complicated software systems that approximate atmospheric and oceanic fluid mechanics at a coarse spatial resolution. Typical climate forecasts only explicitly resolve processes larger than 100 km and approximate any process occurring below this scale (e.g. thunderstorms) using so-called parametrizations. Machine learning could improve upon the accuracy of some traditional physical parametrizations by learning from so-called global cloud-resolving models. We compare the performance of two machine learning models, random forests (RF) and neural networks (NNs), at parametrizing the aggregate effect of moist physics in a 3 km resolution global simulation with an atmospheric model. The NN outperforms the RF when evaluated offline on a testing dataset. However, when the ML models are coupled to an atmospheric model run at 200 km resolution, the NN-assisted simulation crashes with 7 days, while the RF-assisted simulations remain stable. Both runs produce more accurate weather forecasts than a baseline configuration, but globally averaged climate variables drift over longer timescales.

研究の動機と目的

• 〜3km分解能のFV3GFSなど、より現実的な大気モデル内でMLパラメトリゼーションの実現可能性を示す。
• オフラインとオンラインの性能を比較するためのRFとNNの湿潤物理パラメータ化。
• MLパラメータ化を粗い200km大気モデルと結合した場合の安定性と予報技能を評価する。
• ML支援気候シミュレーションの頑健性とドリフト問題を強調し、改善の方向性を提案する。

提案手法

• 3 km FV3GFSデータに基づく局所的に高度な入力x_iから、湿度および温度の源項fを予測するようにRFとNNを訓練する。
• fを予算残差として計算する: f_i = dx_i/dt − g_i、ここでg_iは知られた物理過程（輸送＋雲オフのパラメータ化）を表す。
• 細分解能データからg_iとx_iの滑らかな推定を得るためにナッジングを用い、正則化として3時間のナッジング時間スケールを使用。
• 特徴量には温度と湿度の鉛直プロファイル、太陽高度角の余弦、地表の高度、陸海マスクを含む。
• RF: 最大深さ13、13本の木（10タイムステップのバッチ）。 NN: 2層、各128ノード、ReLU、Adamオプティマイザ（学習率0.001）。
• 出力標準偏差の逆数でスケーリングしたMSE損失で訓練；バッチサイズ512；8エポック；入力はバッチごとに正規化。

実験結果

リサーチクエスチョン

• RQ1 オフラインで高解像データセットを用いて訓練した場合、MLベースのパラメトリゼーション（RFおよびNN）は湿潤物理の傾向を正確に再現できるか？
• RQ2 オフライン（テスト）精度は、粗い大気モデルと結合した場合に安定したオンライン性能へと変換されるか？
• RQ3 気候関連変数（PW、Z500）に対して、オンライン安定性と予報技能がより高いのはどちらのモデル（RF対NN）か？
• RQ4 全物理ベースと比較したML支援シミュレーションで観察される偏りとドリフトは何か？
• RQ5 現実的な気候モデルへMLパラメータ化を導入する際、オフライン-onlineの相違はどのような影響を与えるか？

主な発見

• オフラインでは、NNがテストデータセットでRFより精度が高い（R^2が高い）。
• オンラインでは、200kmモデルに結合したNN支援シミュレーションは約7日でクラッシュする一方、RF支援は10日間のハインドキャストを完了する。
• どちらのML支援実行も、全物理ベースより約5日程度は予測技能が上回るが、PWとZ500は長期的にはドリフトを示す。
• オンラインではRFは平均化挙動のため安定しやすい一方、NNは結合フィードバックと非ガウス分布の入力の影響で不安定になり得る。
• NNの予測はオフラインで全体的にバイアスが掛かっており（加熱）、極端イベントへの頑健性が低い傾向がある。RFは外挙推定に対してより頑健である。