[논문 리뷰] A posteriori learning for quasi-geostrophic turbulence parametrization

Hugo Frezat, Julien Le Sommer외 3명|arXiv (Cornell University)|2022. 04. 08.

Meteorological Phenomena and Simulations인용 수 9

한 줄 요약

이 논문은 준지구학 난류에서 미소스케일(SGS) 파arametrization에 대해 종단간 사후 학습(end-to-end a posteriori learning)을 제안하며, 고해상도 모델 궤적 전반에 걸친 예측 오차를 최소화하는 방식으로 신경망을 훈련함으로써 사전 기준 손실 함수에 의존하지 않는다. 이 방법은 다양한 유동 구조에서 기존의 데이터 기반 및 경험적 방법보다 더 안정적이고 정확하며 일반화 능력이 뛰어난 파arametrization을 도출한다.

ABSTRACT

The use of machine learning to build subgrid parametrizations for climate models is receiving growing attention. State-of-the-art strategies address the problem as a supervised learning task and optimize algorithms that predict subgrid fluxes based on information from coarse resolution models. In practice, training data are generated from higher resolution numerical simulations transformed in order to mimic coarse resolution simulations. By essence, these strategies optimize subgrid parametrizations to meet so-called $ extit{a priori}$ criteria. But the actual purpose of a subgrid parametrization is to obtain good performance in terms of $ extit{a posteriori}$ metrics which imply computing entire model trajectories. In this paper, we focus on the representation of energy backscatter in two dimensional quasi-geostrophic turbulence and compare parametrizations obtained with different learning strategies at fixed computational complexity. We show that strategies based on $ extit{a priori}$ criteria yield parametrizations that tend to be unstable in direct simulations and describe how subgrid parametrizations can alternatively be trained end-to-end in order to meet $ extit{a posteriori}$ criteria. We illustrate that end-to-end learning strategies yield parametrizations that outperform known empirical and data-driven schemes in terms of performance, stability and ability to apply to different flow configurations. These results support the relevance of differentiable programming paradigms for climate models in the future.

연구 동기 및 목표

• 기후 모델에서 사전 기준 기반으로 훈련된 미소스케일 파arametrization의 불안정성 문제를 해결하기 위해.
• 종단간 사후 성능 지표 기반의 훈련이 장기 시뮬레이션의 안정성과 정확도를 향상시키는지 조사하기 위해.
• 학습된 파arametrization의 다양한 초기 유동 구조에 대한 일반화 능력을 평가하기 위해.
• 기후 모델 파arametrization에 대해 미분 가능한 프로그래밍 프레임워크의 실현 가능성과 우수성을 입증하기 위해.
• 사후 학습을 전통적인 사전 학습 및 정착된 경험적/데이터 기반 방법과 비교하기 위해.

제안 방법

• 저자들은 전체 모델 통합에서 25단계 시간 간격 동안의 예측 오차 합을 기반으로 한 손실 함수를 사용하여, 신경망이 미소스케일 플럭스를 예측하도록 훈련시킨다.
• 훈련 과정은 준지구학 방정식의 미분 가능 시간 통합을 사용하며, 시간에 따른 역전파(backpropagation through time)를 통해 파arametrization을 최적화한다.
• 이 방법은 에너지 역산산(energy backscatter)을 핵심으로 하는 두 차원 준지구학 모델에 적용된다.
• 학습된 파arametrization은 루트 평균 제곱 오차(RMSE), 에너지 스펙트럼, 장기적 안정성 등 사후 평가 지표를 사용하여 평가된다.
• 이 접근은 고해상도 시뮬레이션에서 유도된 합성 훈련 데이터 기반으로 네트워크를 최적화하는 표준 사전 학습과 대비된다.
• 프레임워크는 자동 미분을 활용하며, 종단간 최적화를 가능하게 하기 위해 JAX 유사한 미분 가능한 프로그래밍 환경을 구현한다.

실험 결과

연구 질문

• RQ1 전체 모델 궤적 오차 기반의 사후 학습 전략이 사전 학습보다 더 안정적이고 정확한 미소스케일 파arametrization을 도출할 수 있는가?
• RQ2 사후 학습된 파arametrization은 장기 시뮬레이션에서 사전 학습된 또는 경험적 방법보다 어떻게 성능을 발휘하는가?
• RQ3 사후 학습된 파arametrization은 다양한 초기 유동 구조에 얼마나 잘 일반화되는가?
• RQ4 종단간 훈련이 준지구학 난류에서 에너지 역산산의 표현을 향상시키는가?
• RQ5 비미분 가능한 기존 모델에 적용할 때, 미분 가능한 프로그래밍의 실용적 의미는 무엇인가?

주요 결과

• 사후 학습 전략은 사전 기준 기반으로 훈련된 파arametrization보다 장기 시뮬레이션에서 훨씬 더 안정적인 결과를 도출한다.
• 사후 학습된 파arametrization은 RMSE, 에너지 스펙트럼의 정확도, 장기적인 유동 패턴 정확도 측면에서 경험적 및 데이터 기반 기준보다 뛰어난 성능을 보인다.
• 학습된 파arametrization은 다양한 초기 유동 구조에 대해 잘 일반화되며, 강건성과 전이 능력을 입증한다.
• 이 방법은 에너지 역산산을 성공적으로 포착하고 안정화시키며, 준지구학 난류 모델링에서 핵심 과제인 역산산 문제를 해결한다.
• 종단간 훈련은 단기 예측 성능을 향상시키며, 이는 더 나은 장기적 안정성과 기후학적 정확도로 이어진다.
• 결과는 향후 기후 모델링에서 더 정확하고 안정적인 파arametrization 기법을 가능하게 하기 위해 미분 가능한 프로그래밍 프레임워크의 도입을 지지한다.