[論文レビュー] Causally-informed deep learning to improve climate models and projections

Fernando Iglesias‐Suarez, Pierre Gentine+5 more|arXiv (Cornell University)|Apr 25, 2023

Climate variability and models参考文献 66被引用数 4

ひとこと要約

本論文では、因果探索とニューラルネットワークを統合することで、対流のようなスケールの小さいプロセスにおける誤った相関関係を低減する、因果的知見に基づいた深層学習を提案する。この手法は気候モデルのスーパーパラメータ化および放射移動スキームを置き換え、非因果的手法と比較して物理的整合性と一般化性能が向上した正確な気候シミュレーションを実現する。

ABSTRACT

Climate models are essential to understand and project climate change, yet long-standing biases and uncertainties in their projections remain. This is largely associated with the representation of subgrid-scale processes, particularly clouds and convection. Deep learning can learn these subgrid-scale processes from computationally expensive storm-resolving models while retaining many features at a fraction of computational cost. Yet, climate simulations with embedded neural network parameterizations are still challenging and highly depend on the deep learning solution. This is likely associated with spurious non-physical correlations learned by the neural networks due to the complexity of the physical dynamical system. Here, we show that the combination of causality with deep learning helps removing spurious correlations and optimizing the neural network algorithm. To resolve this, we apply a causal discovery method to unveil causal drivers in the set of input predictors of atmospheric subgrid-scale processes of a superparameterized climate model in which deep convection is explicitly resolved. The resulting causally-informed neural networks are coupled to the climate model, hence, replacing the superparameterization and radiation scheme. We show that the climate simulations with causally-informed neural network parameterizations retain many convection-related properties and accurately generate the climate of the original high-resolution climate model, while retaining similar generalization capabilities to unseen climates compared to the non-causal approach. The combination of causal discovery and deep learning is a new and promising approach that leads to stable and more trustworthy climate simulations and paves the way towards more physically-based causal deep learning approaches also in other scientific disciplines.

研究の動機と目的

• 雲や対流のようなスケールの小さいプロセスに起因する、気候モデルの予測における持続的なバイアスと不確実性を是正すること。
• 複雑な大気系において深層学習モデルが学習する誤った物理的でない相関関係を低減すること。
• ニューラルネットワークのパラメータ化における物理的整合性を向上させる、因果的知見に基づいた深層学習フレームワークを開発すること。
• 計算コストの高いスーパーパラメータ化および放射移動スキームを、因果的知見に基づいたニューラルネットワークに置き換えつつ、重要な気候特性を維持すること。

提案手法

• スーパーパラメータ化気候モデルにおけるスケールの小さいプロセスの入力予測子間の因果的要因を特定するため、因果的探索手法を適用する。
• 特定された因果構造をもとに、物理的に意味のある関係を学習するよう深層ニューラルネットワークの学習を誘導する。
• 因果的知見に基づいたニューラルネットワークを、気候モデルにおけるスーパーパラメータ化および放射移動スキームの代替として統合する。
• 高分解能のストーム解像モデルからのデータを用いてニューラルネットワークを学習させ、対流関連の特徴を低い計算コストで捉える。
• 元の高分解能モデルとの比較を通じて、得られた気候シミュレーションの忠実性と一般化性能を評価する。
• 因果構造を用いてニューラルネットワークのアーキテクチャおよび損失関数を制約し、物理的でない相関関係を最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 因果的知見に基づいた深層学習は、大気のスケールの小さいプロセスのニューラルネットワークパラメータ化における誤った相関関係を低減できるか？
• RQ2 因果的知見に基づいたニューラルネットワークは、非因果的対応手法と比較して、対流関連の重要な気候特性をどの程度正確に保持できるか？
• RQ3 因果的知見に基づいたモデルは、標準的な深層学習手法と比較して、未知の気候条件への一般化能力をどの程度向上できるか？
• RQ4 因果的探索の統合は、深層学習に基づく気候モデルパラメータ化の物理的妥当性と安定性を向上させることができるか？

主な発見

• 因果的知見に基づいたニューラルネットワークパラメータ化は、元の高分解能気候モデルが有する主要な対流関連特性を正確に保持した。
• 因果的知見に基づいたニューラルネットワークを用いた気候シミュレーションは、大規模な循環や降水量パターンを含む、元のモデルの統計的挙動をよく再現した。
• 因果的知見に基づいたアプローチは、非因果的深層学習手法と比較して、同程度またはより優れた一般化能力を示した。
• この手法は、ニューラルネットワーク予測における物理的でない相関関係を低減し、物理的整合性とシミュレーションの信頼性を向上させた。