[논문 리뷰] Combining data assimilation and machine learning to estimate parameters of a convective-scale model

Stefanie Legler, Tijana Janjić|arXiv (Cornell University)|2021. 09. 07.

Meteorological Phenomena and Simulations참고 문헌 35인용 수 19

한 줄 요약

이 연구는 희소하고 노이즈가 많은 관측 자료로부터 대류 척도의 얕은수조 모델에서 불확실한 매개변수를 추정하기 위해 데이터 융합(EnKF)과 베이지안 및 결정론적 신경망을 융합한 하이브리드 프레임워크를 제안한다. 이 방법은 매개변수-상태 관계를 학습함으로써 상태 추정 오차, 특히 강수량에 대해 감소시키며, 정확도와 불확실성 정량화 측면에서 베이지안 신경망이 결정론적 네트워크를 능가한다.

ABSTRACT

Errors in the representation of clouds in convection-permitting numerical weather prediction models can be introduced by different sources. These can be the forcing and boundary conditions, the representation of orography, the accuracy of the numerical schemes determining the evolution of humidity and temperature, but large contributions are due to the parametrization of microphysics and the parametrization of processes in the surface and boundary layers. These schemes typically contain several tunable parameters that are either not physical or only crudely known, leading to model errors. Traditionally, the numerical values of these model parameters are chosen by manual model tuning. More objectively, they can be estimated from observations by the augmented state approach during the data assimilation. Alternatively, in this work, we look at the problem of parameter estimation through an artificial intelligence lens by training two types of artificial neural networks (ANNs) to estimate several parameters of the one-dimensional modified shallow-water model as a function of the observations or analysis of the atmospheric state. Through perfect model experiments, we show that Bayesian neural networks (BNNs) and Bayesian approximations of point estimate neural networks (NNs) are able to estimate model parameters and their relevant statistics. The estimation of parameters combined with data assimilation for the state decreases the initial state errors even when assimilating sparse and noisy observations. The sensitivity to the number of ensemble members, observation coverage, and neural network size is shown. Additionally, we use the method of layer-wise relevance propagation to gain insight into how the ANNs are learning and discover that they naturally select only a few gridpoints that are subject to strong winds and rain to make their predictions of chosen parameters.

연구 동기 및 목표

• 대류 척도 기상 예측 모델에서 잘 알려지지 않았거나 물리적으로 타당하지 않은 매개변수를 추정하는 과제를 해결한다.
• 기존 수동 조정 및 확장된 상태 접근법의 한계를 극복하여 데이터 융합을 통한 매개변수 추정에서의 한계를 해결한다.
• 불확실성 정량화와 해석 가능성을 제공하는 머신러닝 기반의 매개변수 추정 방법을 개발한다.
• 희소하고 노이즈가 많은 관측 자료 하에서 베이지안 신경망(BNNs)과 엔semble 점추정 신경망의 성능을 조사한다.
• 층별 중요도 전파(LRP)를 사용하여 신경망이 대기 상태 변수에 기반해 매개변수 예측을 어떻게 내리는지 해석한다.

제안 방법

• 조정 가능한 매개변수를 가진 일차원 수정 얕은수조 모델을 사용한다: 강우 제거 비율(α), 지면위력 임계치(φc), 강우 임계치(hr).
• 실제 관측 제약 조건을 시뮬레이션하기 위해 노이즈와 희소성을 가진 합성 관측 자료를 생성한다.
• 대기 상태(u, h, r)를 입력으로 사용하여 상태 추정을 위해 군집 칼만 필터(EnKF)를 적용한다.
• 관측된 상태에 대한 함수로 모델 매개변수를 예측하기 위해 베이지안 신경망(BNNs)과 결정론적 신경망(DNNs)을 훈련한다.
• 베이지안 근사법을 사용하여 매개변수 예측의 불확실성을 추정하고, 확률적 해석을 가능하게 한다.
• 층별 중요도 전파(LRP)를 적용하여 특징 중요도를 시각화하고, 공간적 및 변수 중요도에 기반한 모델 결정을 해석한다.

실험 결과

연구 질문

• RQ1 베이지안 및 결정론적 신경망은 희소하고 노이즈가 많은 관측 자료에서 대류 척도 모델의 매개변수를 효과적으로 추정할 수 있는가?
• RQ2 데이터 융합과 머신러닝을 융합함으로써 표준 EnKF(매개변수 추정 없음)에 비해 상태 추정 정확도는 어떻게 향상되는가?
• RQ3 매개변수 추정 정확도와 불확실성 정량화 측면에서 베이지안 신경망과 엔셈블 점추정 네트워크의 상대적 성능은 어떠한가?
• RQ4 대기 변수(u, h, r) 중에서 신경망의 매개변수 예측에 가장 영향을 미치는 것은 무엇이며, 이는 매개변수에 따라 어떻게 달라지는가?
• RQ5 층별 중요도 전파(LRP)는 신경망이 모델 매개변수를 추정하는 방식을 이해하는 데 의미 있는 물리적 통찰을 제공할 수 있는가?

주요 결과

• 베이지안 신경망(BNNs)은 결정론적 네트워크에 비해 매개변수 추정의 평균제곱오차(RMSE)를 최대 30% 감소시켰으며, 훈련 시간과 하이퍼파rameter 조정이 적었다.
• 신경망을 통한 매개변수 추정을 통합함으로써 상태 추정 오차가 감소하였으며, 특히 강수량(r)의 경우 RMSE가 최대 40% 감소하였다. 매개변수 추정이 없는 경우와 비교한 결과이다.
• LRP 분석을 통해 신경망이 주로 강풍과 강수량이 뚜렷한 소수의 격점에 의존하여 예측을 내리는 것으로 나타났으며, 이는 φc와 hr에 특히 두드러졌다.
• 강우 제거 비율 α의 경우 유체 높이 h가 가장 중요한 변수였고, φc와 hr의 경우 LRP 히트맵에서 강우(r)가 주요 입력 특징이 되었다.
• 모든 매개변수를 동시에 추정할 경우 몇몇 핵심 격점만이 중요하게 작용했지만, 매개변수별로 별도의 네트워크를 훈련시킴으로써 더 많은 격점에서 공간적 중요도가 증가하였다.
• BNN을 사용할 경우 상태 분석의 엔셈블 스프레드가 증가하여 불확실성 정량화가 향상되었고, 동시에 RMSE가 감소하여 전반적인 성능 향상이 확인되었다.