[논문 리뷰] Combining data assimilation and machine learning to infer unresolved scale parametrisation

Julien Brajard, Alberto Carrassi외 2명|arXiv (Cornell University)|2020. 09. 09.

Meteorological Phenomena and Simulations참고 문헌 42인용 수 10

한 줄 요약

이 논문은 노이즈가 많고 희박한 관측 자료로부터 해상도가 없는 스케일의 파rametrization을 추론하기 위해 데이터 융합(DA)과 기계학습(ML)을 조합한 하이브리드 모델링 프레임워크를 제안한다. 불완전한 자료에서 모델 오차를 추정하기 위해 엔semble 칼만 필터(EnKF)를 사용하고, 이를 바탕으로 신경망을 학습시켜 오차를 모의함으로써, 단순히 잘린 물리 모델보다 더 정확한 예측 모델을 생성한다. 이 방법은 로렌츠 2스케일 모델과 MAOOAM 모델 모두에서 애트랙터 표현과 예측 정확도를 크게 향상시킨다.

ABSTRACT

In recent years, machine learning (ML) has been proposed to devise data-driven parametrisations of unresolved processes in dynamical numerical models. In most cases, the ML training leverages high-resolution simulations to provide a dense, noiseless target state. Our goal is to go beyond the use of high-resolution simulations and train ML-based parametrisation using direct data, in the realistic scenario of noisy and sparse observations. The algorithm proposed in this work is a two-step process. First, data assimilation (DA) techniques are applied to estimate the full state of the system from a truncated model. The unresolved part of the truncated model is viewed as a model error in the DA system. In a second step, ML is used to emulate the unresolved part, a predictor of model error given the state of the system. Finally, the ML-based parametrisation model is added to the physical core truncated model to produce a hybrid model. The DA component of the proposed method relies on an ensemble Kalman filter while the ML parametrisation is represented by a neural network. The approach is applied to the two-scale Lorenz model and to MAOOAM, a reduced-order coupled ocean-atmosphere model. We show that in both cases the hybrid model yields forecasts with better skill than the truncated model. Moreover, the attractor of the system is significantly better represented by the hybrid model than by the truncated model.

연구 동기 및 목표

• 노이즈가 많고 희박한 관측 자료만 제공될 때도 동역학 모델에서 해상도가 없는 스케일을 다루는 데이터 기반 방법을 개발하기 위해.
• 고해상도 시뮬레이션이나 노이즈가 없는 데이터에 의존하는 기존의 ML 기반 파rametrization 방법의 한계를 극복하기 위해.
• 데이터 융합과 기계학습을 통합하여 불완전한 관측 자료에서 모델 오차를 추정하고, 이를 학습시켜 신경망이 이를 예측하도록 하기 위해.
• 물리 기반의 잘린 모델과 학습된 파rametrization을 조합한 하이브리드 모델을 만들어 예측 정확도와 역학 일관성을 향상시키기 위해.
• 실제 관측 조건에서 저차원 혼돈 모델(로렌츠 2스케일 및 MAOOAM)에 대해 이 방법을 검증하기 위해.

제안 방법

• 노이즈가 많고 희박한 관측 자료에서 시스템의 전체 상태를 추정하기 위해 엔셈블 칼만 필터(EnKF)를 사용하고, 해상도가 없는 스케일을 모델 오차로 간주한다.
• 모델 오차를 축소된 상태 공간에서 진짜 시스템의 진화와 잘린 모델의 예측 간의 차이로 정의한다.
• DA로 추정한 상태를 입력으로 사용하여, 해상도가 있는 상태에서 추정된 모델 오차로의 사전 매핑을 학습하는 피드포워드 신경망을 훈련시킨다.
• 학습된 신경망 파rametrization을 잘린 모델의 물리적 코어에 추가하여 하이브리드 모델을 구성한다.
• 두 가지 테스트 시스템에 대해 이 방법을 적용한다: 이중스케일 로렌츠 모델과 MAOOAM 해양-대기 모델이며, 완벽한 관측과 노이즈가 있는 관측을 비교한다.
• 두 모델 간에 동일한 훈련 및 평가 프로토콜을 사용하여 관측 노이즈와 희박한 관측에 대한 강건성을 평가한다.

실험 결과

연구 질문

• RQ1 고해상도 시뮬레이션에 의존하지 않고 노이즈가 많고 희박한 관측 자료만으로도 기계학습 모델이 해상도가 없는 스케일의 파rametrization을 효과적으로 학습할 수 있는가?
• RQ2 실제 관측 조건 하에서, 하이브리드 모델의 예측 정확도와 애트랙터 표현 능력이 잘린 모델에 비해 어떻게 다른가?
• RQ3 모델 오차를 추정하기 위해 데이터 융합을 사용하는 것이 신경망 파rametrization의 학습을 얼마나 향상시키는가?
• RQ4 혼돈적이고 다중스케일 시스템에서 관측 노이즈와 희박한 공간적 샘플링에 대해 하이브리드 모델은 얼마나 강건한가?
• RQ5 제안된 방법은 기상 및 기후 예측에 사용되는 더 복잡하고 고차원적인 모델로 확장될 수 있는가?

주요 결과

• 노이즈가 많고 희박한 관측 자료로 훈련된 경우에도, 이중스케일 로렌츠 시스템과 MAOOAM 모델 모두에서 하이브리드 모델은 잘린 모델보다 예측 정확도가 뚜렷이 향상된다.
• 하이브리드 모델은 잘린 모델보다 시스템의 애트랙터를 더 잘 표현하며, DA 기반 하이브리드 모델은 향상된 역학 일관성을 보인다.
• MAOOAM 모델의 경우, 노이즈가 있는 관측 자료에서 유도된 하이브리드 모델이 완벽한 관측 자료로 훈련된 하이브리드 모델과 해양 변수 예측 정확도에서 유사한 성능을 달성한다.
• 높은 관측 노이즈와 희박한 공간 분포에 대해 강건하지만, 관측 빈도가 낮아질수록 예측 정확도는 감소한다.
• DA로 추정한 상태에서 훈련된 신경망은 해상도가 없는 스케일 효과를 성공적으로 모의하여 모델 오차를 감소시키고 장기적 역학을 향상시킨다.
• 이 방법은 고차원 시스템으로도 잘 확장되며, 물리 모델의 애드조인트를 필요로 하지 않아서 구현과 유지보수를 용이하게 한다.