[논문 리뷰] ClimSim-Online: A Large Multi-scale Dataset and Framework for Hybrid ML-physics Climate Emulation

Zeyuan Hu|elib (German Aerospace Center)|2023. 06. 14.

Meteorological Phenomena and Simulations인용 수 19

한 줄 요약

ClimSim은 하이브리드 ML-물리 시뮬레이터 내 서브-그리드 기후 과정의 ML 에뮐레이터 학습을 위한 가장 큰 다중 스케일 기후 데이터셋을 제공하며, 광범위한 입력/출력과 학습 성능을 입증하는 baseline 모델을 포함합니다.

ABSTRACT

Modern climate projections lack adequate spatial and temporal resolution due to computational constraints, leading to inaccuracies in representing critical processes like thunderstorms that occur on the sub-resolution scale. Hybrid methods combining physics with machine learning (ML) offer faster, higher fidelity climate simulations by outsourcing compute-hungry, high-resolution simulations to ML emulators. However, these hybrid ML-physics simulations require domain-specific data and workflows that have been inaccessible to many ML experts. As an extension of the ClimSim dataset (Yu et al., 2024), we present ClimSim-Online, which also includes an end-to-end workflow for developing hybrid ML-physics simulators. The ClimSim dataset includes 5.7 billion pairs of multivariate input/output vectors, capturing the influence of high-resolution, high-fidelity physics on a host climate simulator's macro-scale state. The dataset is global and spans ten years at a high sampling frequency. We provide a cross-platform, containerized pipeline to integrate ML models into operational climate simulators for hybrid testing. We also implement various ML baselines, alongside a hybrid baseline simulator, to highlight the ML challenges of building stable, skillful emulators. The data (https://huggingface.co/datasets/LEAP/ClimSim_high-res) and code (https://leap-stc.github.io/ClimSim and https://github.com/leap-stc/climsim-online) are publicly released to support the development of hybrid ML-physics and high-fidelity climate simulations.

연구 동기 및 목표

• 전 지구 규모의 시뮬레이터 내에서 서브그리드 기후 과정의 고충실도 데이터 기반 에뮐레이터의 필요성을 동기 부여한다.
• 고해상도 물리학과 거친 해상도 기후 상태를 연결하는 대규모의 공개 가능한 다중 스케일 데이터셋을 제공한다.
• 대류, 구름 및 복사 효과의 에뮐레이션을 벤치마킹하기 위한 기초 ML 모델을 확립한다.
• 확장된 입력/출력 및 물리 정보를 반영한 제약이 에뮐레이터 성능에 어떤 영향을 미치는지 탐구한다.

제안 방법

• 다중 스케일 기후 시뮬레이터 (E3SM-MMF)를 사용하여 전 세계 범위에 걸친 고해상도 대류 물리와 그것이 거시 규모 상태 변수에 미치는 영향을 나타내는 5.7 billion 샘플을 생성한다.
• 경향성과 플럭스를 나타내는 124 입력 특성과 128 대상 출력을 갖는 1D 수직 열 샘플을 준비한다.
• 확장 입력/출력 617x368로 저해상도 및 고해상도 데이터셋을 모두 제공하고, 빠른 프로토타이핑을 위한 aquaplanet 변형도 제공한다.
• 회귀 작업에서 MAE 및 R^2 지표로 CNN과 ResNet 블록을 포함한 다수의 기본 ML 아키텍처(Encoder-Decoder, MLP, 이분산 회귀, Randomized Prior Network, cVAE)를 벤치마크한다.
• 일반화 가능성과 결합 성능을 향상시키기 위해 물리 정보를 반영한 제약(질량/에너지 보존)과 확률성/메모리를 강조한다.
• 재현 가능한 ML 가속 기후 에뮐레이션을 위해 데이터셋과 동반 코드를 공개적으로 배포한다.

실험 결과

연구 질문

• RQ1 다중 스케일 기후 모델의 거시 규모 입력을 고려할 때 ML 에뮐레이터가 서브 그리드 규모의 대류, 미세물리 및 복사 경향을 정확하게 재현할 수 있는가?
• RQ2 입력 및 출력 특성 집합을 확장하는 것이 대기 층 및 변수에 걸친 에뮐레이터 정확도에 어떤 영향을 미치는가?
• RQ3 결정론적 및 확률적 기후 서브그리드 과정의 에뮐레이션에 대해 어떤 기본 ML 아키텍처가 최상의 성능을 보이며, 물리적 제약이 결과에 어떤 영향을 미치는가?
• RQ4 일반화 가능한 에뮐레이터 및 다운스트림 결합 학습을 위한 저해상도 대 고해상도 데이터셋 사용의 시사점은 무엇인가?
• RQ5 ClimSim 데이터셋이 기후 에뮐레이션에서 확률성, 기억 효과 및 인과 관계에 관한 향후 연구에 어떤 정보를 제공할 수 있는가?

주요 결과

• 최고 성능의 기본 모델들은 변수에 따라 다양한 성능을 보이며; 예를 들어 dT/dt는 MLP가 R^2 약 0.59로 가장 좋고 상부 대기에서는 CNN이 때때로 더 높은 성능을 보인다.
• NETSW는 아키텍처에 따라 MAE가 대략 14–19 W/m^2이고 R^2가 최대 약 0.98에 이르는 강한 성능을 보인다.
• SOLS/SOLL/SO LSD 변수들은 일반적으로 높은 R^2(≈0.92–0.96)와 아키텍처에 따라 7–14 W/m^2 범위의 MAE를 보인다.
• 고해상도 에뮐레이터는 데이터 분산 증가로 MAE가 더 크지만 많은 변수에서 저해상도 모델과 유사한 R^2을 유지한다.
• 입력/대상 확장(617/368)은 두 해상도에서 특히 강수량에 대해 대상 변수 재현을 일반적으로 향상시킨다.
• 보존 기반 제약과 확률적 아키텍처(RPN, HSR, cVAE)는 더 나은 일반화와 물리적으로 합리적인 출력에 기여한다.