[논문 리뷰] Machine Learning Climate Model Dynamics: Offline versus Online Performance

Noah Brenowitz, Brian Henn외 6명|arXiv (Cornell University)|2020. 11. 05.

Meteorological Phenomena and Simulations참고 문헌 12인용 수 39

한 줄 요약

이 논문은 3 km 글로벌 기후 모델에서 습윤 물리 파라미터화에 대한 랜덤 포레스트와 신경망의 비교를 제시한다. 오프라인 NN의 정확도는 있지만 온라인에서의 불안정성이 존재하는 반면, RF는 온라인 이득이 완만하더라도 안정성을 유지한다.

ABSTRACT

Climate models are complicated software systems that approximate atmospheric and oceanic fluid mechanics at a coarse spatial resolution. Typical climate forecasts only explicitly resolve processes larger than 100 km and approximate any process occurring below this scale (e.g. thunderstorms) using so-called parametrizations. Machine learning could improve upon the accuracy of some traditional physical parametrizations by learning from so-called global cloud-resolving models. We compare the performance of two machine learning models, random forests (RF) and neural networks (NNs), at parametrizing the aggregate effect of moist physics in a 3 km resolution global simulation with an atmospheric model. The NN outperforms the RF when evaluated offline on a testing dataset. However, when the ML models are coupled to an atmospheric model run at 200 km resolution, the NN-assisted simulation crashes with 7 days, while the RF-assisted simulations remain stable. Both runs produce more accurate weather forecasts than a baseline configuration, but globally averaged climate variables drift over longer timescales.

연구 동기 및 목표

• FV3GFS 기반의 보다 현실적인 대기 모델에서 ~3 km 해상도에서 ML 파라미터화의 타당성을 입증한다.
• 습윤 물리 파라미터화에 대한 RF와 NN의 오프라인 대 온라인 성능을 비교한다.
• ML 파라미터화가 더 거친 200 km 대기 모델과 결합될 때의 안정성과 예측 기술을 평가한다.
• ML 보조 기후 시뮬레이션에서의 견고성과 드리프트 문제를 강조하고 개선 방향을 제시한다.

제안 방법

• 3 km FV3GFS 데이터에서 도출된 지역적으로 고도화된 입력 x_i로부터 수분 및 온도 소스 항 f를 예측하도록 RF와 NN을 학습한다.
• 예산 잔차로 f를 계산한다: f_i = dx_i/dt − g_i, 여기서 g_i는 알고 있는 물리 현상(수송 및 구름-오프 파라미터화)을 나타낸다.
• 정밀 해상도 데이터에서 g_i 및 x_i의 매끄러운 추정치를 얻기 위해 너깃(nudging)을 사용하고, 3시간의 nudging 타임스케일을 정규화로 활용한다.
• 특징은 온도와 습도의 수직 프로파일, 일사정수 각의 코사인, 지표 고도, 해-육상 마스크를 포함한다.
• RF : 최대 깊이 13, 13 트리(10 타임스텝 배치). NN: 두 층, 각 128 노드, ReLU, Adam 옵티마이저(학습률 0.001).
• 출력 표준편차의 역수로 스케일된 MSE 손실로 학습; 배치 크기 512; 8 에포크; 배치당 입력 정규화.

실험 결과

연구 질문

• RQ1 고해상도 데이터셋에서 오프라인으로 학습될 때 ML 기반 파라미터화(RF 및 NN)가 습윤 물리 경향을 정확히 재현할 수 있는가?
• RQ2 오프라인(테스트) 정확도가 거친 대기 모델에 결합되었을 때 안정적인 온라인 성능으로 이어지는가?
• RQ3 어떤 모델(RF 대 NN)이 온라인 안정성과 기후 관련 변수(PW, Z500)에 대한 예측 기술 측면에서 더 우수한가?
• RQ4 전체 물리 기반과 비교했을 때 ML 보조 시뮬레이션에서 관찰되는 편향 및 드리프트는 무엇인가?
• RQ5 오프라인-온라인 차이가 실질적인 기후 모델에 ML 파라미터화를 배치하는 데 어떤 시사점을 갖는가?

주요 결과

• 오프라인에서, 테스트 데이터 세트에서 NN이 RF보다 정확도가 더 높다(R^2 더 큼).
• 온라인에서, 200 km 모델과 결합된 NN 보조 시뮬레이션은 약 7일 후에 충돌하는 반면 RF 보조 시뮬레이션은 10일 hindcast를 완수한다.
• 두 ML 보조 실행 모두 전체 물리 기반보다 최대 약 5일 정도 예측 기술이 우수하지만, 전지 PW와 Z500은 더 긴 시간에서 드리프트를 보인다.
• RF는 평균화 동작으로 온라인에서 더 안정적인 경향이 있는 반면, NN은 결합된 피드백과 비가우시안 입력으로 인해 불안정해질 수 있다.
• NN 예측은 오프라인에서 전역적으로 편향되어(가열) 극한 이벤트에 대한 강건성이 낮아지는 경향이 있으며, RF는 외삽에 더 강건한 편이다.