[논문 리뷰] Causally-informed deep learning to improve climate models and projections

Fernando Iglesias‐Suarez, Pierre Gentine외 5명|arXiv (Cornell University)|2023. 04. 25.

Climate variability and models참고 문헌 66인용 수 4

한 줄 요약

이 논문은 인과적 발견을 통합한 딥러닝 기법을 제안하여, 대류와 같은 미세거시적 과정에서의 잘못된 상관관계를 줄이고 기후 모델의 파arameterization을 향상시킨다. 이 방법은 기후 모델 내 초분해능(superparameterization)과 복사 모델을 대체하여, 비인과적 접근보다 물리적 일致성과 일반화 능력이 향상된 정확한 기후 시뮬레이션을 달성한다.

ABSTRACT

Climate models are essential to understand and project climate change, yet long-standing biases and uncertainties in their projections remain. This is largely associated with the representation of subgrid-scale processes, particularly clouds and convection. Deep learning can learn these subgrid-scale processes from computationally expensive storm-resolving models while retaining many features at a fraction of computational cost. Yet, climate simulations with embedded neural network parameterizations are still challenging and highly depend on the deep learning solution. This is likely associated with spurious non-physical correlations learned by the neural networks due to the complexity of the physical dynamical system. Here, we show that the combination of causality with deep learning helps removing spurious correlations and optimizing the neural network algorithm. To resolve this, we apply a causal discovery method to unveil causal drivers in the set of input predictors of atmospheric subgrid-scale processes of a superparameterized climate model in which deep convection is explicitly resolved. The resulting causally-informed neural networks are coupled to the climate model, hence, replacing the superparameterization and radiation scheme. We show that the climate simulations with causally-informed neural network parameterizations retain many convection-related properties and accurately generate the climate of the original high-resolution climate model, while retaining similar generalization capabilities to unseen climates compared to the non-causal approach. The combination of causal discovery and deep learning is a new and promising approach that leads to stable and more trustworthy climate simulations and paves the way towards more physically-based causal deep learning approaches also in other scientific disciplines.

연구 동기 및 목표

• 구름과 대류와 같은 미세거시적 과정과 관련된 기후 모델 예측의 지속적인 편향과 불확실성 문제를 해결하기 위해.
• 복잡한 대기 시스템에서 딥러닝 모델이 학습하는 잘못된 비물리적 상관관계를 줄이기 위해.
• 기후 모델 내 신경망 파arameterization의 물리적 일치성을 향상시키기 위해 인과성 기반의 딥러닝 프레임워크를 개발하기 위해.
• 계산 비용이 높은 초분해능 및 복사 모델을 인과성 기반 신경망으로 대체하면서도 핵심 기후 특성을 유지하기 위해.

제안 방법

• 초분해능 기후 모델에서 미세거시적 과정의 입력 예측자 간의 인과적 영향 요인을 특정하기 위해 인과적 발견 방법을 적용하기 위해.
• 식별된 인과적 구조를 바탕으로 딥러닝 신경망의 학습을 이끌어, 물리적으로 의미 있는 관계를 학습하도록 하기 위해.
• 기후 모델 내 초분해능 및 복사 모델을 인과적 정보를 반영한 신경망으로 대체하기 위해.
• 하이퍼레졸루션 스톰해상 모델에서 생성된 데이터를 사용하여 신경망을 학습시켜, 낮은 계산 비용으로 대류 관련 특징을 포착하기 위해.
• 원본 고해상도 모델과의 비교를 통해 기후 시뮬레이션의 정밀도와 일반화 능력을 평가하기 위해.
• 인과적 구조를 활용해 신경망의 아키텍처와 손실 함수를 제약하여 비물리적 상관관계를 최소화하기 위해.

실험 결과

연구 질문

• RQ1 인과적 정보를 반영한 딥러닝은 대기 미세거시적 과정의 신경망 파arameterization에서 잘못된 상관관계를 줄일 수 있는가?
• RQ2 비인과적 대비로 인과적 정보를 반영한 신경망은 어떤 정도의 대류 관련 기후 특성을 유지하는가?
• RQ3 인과적 정보를 반영한 모델은 표준 딥러닝 방법에 비해 얼마나 높은 수준의 일반화 능력을 보이는가?
• RQ4 인과적 발견의 통합은 딥러닝 기반 기후 모델 파arameterization의 물리적 타당성과 안정성을 향상시킬 수 있는가?

주요 결과

• 인과적 정보를 반영한 신경망 파arameterization은 원본 고해상도 기후 모델의 핵심 대류 관련 특성을 성공적으로 유지하였다.
• 인과적 정보를 반영한 신경망을 사용한 기후 시뮬레이션은 대기 순환과 강수 패턴을 포함한 원본 모델의 통계적 행동을 잘 재현하였다.
• 인과적 정보를 반영한 접근 방식은 비인과적 딥러닝 방법에 비해 유사하거나 더 뛰어난 일반화 능력을 보였다.
• 이 방법은 신경망 예측에서 비물리적 상관관계를 줄여 물리적 일치성과 시뮬레이션 신뢰도를 향상시켰다.