[논문 리뷰] A Machine Learning Approach to Adaptive Covariance Localization

Azam Moosavi, Ahmed Attia외 1명|ArXiv.org|2018. 01. 02.

Meteorological Phenomena and Simulations참고 문헌 33인용 수 4

한 줄 요약

이 논문은 랜덤 포레스트를 사용하여 모델 상태 특징에 기반해 시간과 공간적으로 동적으로 국소화 반경을 조정함으로써, Ensemble Kalman Filter (EnKF)에서 적응형 공분산 국소화를 위한 기계학습 접근법을 제안한다. 이 방법은 수동 조정에 대한 의존도를 줄이고, Lorenz-96 및 쿼드라-지오스트로피컬 모델에서 수동으로 최적화된 국소화와 유사한 성능을 달성하며, 적응형 반경이 상태 변수의 중요도에 따라 시간적·공간적으로 크게 변동하는 경향을 보인다.

ABSTRACT

Data assimilation plays a key role in large-scale atmospheric weather forecasting, where the state of the physical system is estimated from model outputs and observations, and is then used as initial condition to produce accurate future forecasts. The Ensemble Kalman Filter (EnKF) provides a practical implementation of the statistical solution of the data assimilation problem and has gained wide popularity as. This success can be attributed to its simple formulation and ease of implementation. EnKF is a Monte-Carlo algorithm that solves the data assimilation problem by sampling the probability distributions involved in Bayes theorem. Because of this, all flavors of EnKF are fundamentally prone to sampling errors when the ensemble size is small. In typical weather forecasting applications, the model state space has dimension $10^{9}-10^{12}$, while the ensemble size typically ranges between $30-100$ members. Sampling errors manifest themselves as long-range spurious correlations and have been shown to cause filter divergence. To alleviate this effect covariance localization dampens spurious correlations between state variables located at a large distance in the physical space, via an empirical distance-dependent function. The quality of the resulting analysis and forecast is greatly influenced by the choice of the localization function parameters, e.g., the radius of influence. The localization radius is generally tuned empirically to yield desirable results.This work, proposes two adaptive algorithms for covariance localization in the EnKF framework, both based on a machine learning approach. The first algorithm adapts the localization radius in time, while the second algorithm tunes the localization radius in both time and space. Numerical experiments carried out with the Lorenz-96 model, and a quasi-geostrophic model, reveal the potential of the proposed machine learning approaches.

연구 동기 및 목표

• EnKF에서 최적의 국소화 반경 선택 문제를 해결하기 위해, 일반적으로 수동 조정되며 최적화에 계산 비용이 많이 드는 문제를 해결한다.
• 대규모 데이터 통합에서 샘플링 오차와 비합리적인 상관관계를 줄이기 위해 적응형·데이터 기반 국소화를 가능하게 한다.
• 시스템 역학에 대한 사전 지식이 필요 없이 이전 모델 상태에서 최적의 국소화 반경을 학습하는 기계학습 프레임워크를 개발한다.
• Lorenz-96 및 쿼드라-지오스트로피컬 시스템을 포함한 다양한 역학 모델에서 시간과 공간적으로 적응형 국소화의 성능을 평가한다.
• 고정 또는 경험적으로 조정된 국소화 함수를 운영 데이터 통합 시스템에서 학습된 적응형 대체품으로 대체할 수 있는지 탐색한다.

제안 방법

• 이 방법은 모델 상태에서 추출한 특징을 바탕으로 최적의 국소화 반경을 예측하기 위해 지도 기반 기계학습 회귀 기법인 랜덤 포레스트를 사용한다.
• 두 가지 적응 알고리즘을 제안한다: 하나는 시간에 따라 국소화 반경을 조정하는 알고리즘이고, 다른 하나는 오차 지표의 가중 조합을 사용해 공간적·시간적으로 적응하는 알고리즘이다.
• 학습 모델은 재분석 데이터 또는 이전의 데이터 통합 사이클을 사용해 오프라인으로 훈련되며, 상태 변수 값과 그 통계적 성질이 특징으로 포함된다.
• 적응 기준은 두 가지 오차 지표를 조합한다: 예측 및 분석 집단 간의 Kullback-Leibler (KL) 발산과 분석의 평균제곱오차 (RMSE)이다.
• 예측된 최적 값에 기반해 이산적인 후보 반경 풀(예: {3,4})에서 값을 선택하며, 오차 지표의 가중 합을 최소화한다.
• 훈련 과정은 다양한 반경을 사용해 반복적인 EnKF 사이클을 수행하여 레이블이 부여된 데이터를 생성하고, 이후 실시간 통합에 적용한다.

실험 결과

연구 질문

• RQ1 기계학습 모델이 수동 조정 없이 EnKF에서 최적의 국소화 반경을 효과적으로 예측할 수 있는가?
• RQ2 시간과 공간적으로 적응형 국소화는 고정된 수동 조정 반경과 비교해 분석 정확도와 안정성 측면에서 어떻게 성능을 내는가?
• RQ3 모델 상태의 어떤 특징이 최적의 국소화 반경 예측에 가장 예측력이 있는가?
• RQ4 오차 지표(즉, KL 발산과 RMSE)의 가중치 설정이 적응 알고리즘 성능에 어떤 영향을 미치는가?
• RQ5 적응형 국소화 모델의 훈련에 드는 계산 비용은 얼마이며, 대규모 모델에선 이를 줄일 수 있는가?

주요 결과

• 적응형 국소화 접근법은 Lorenz-96 및 쿼드라-지오스트로피컬 모델 모두에서 최고의 수동 조정 고정 반경과 유사한 분석 정확도를 달성했다.
• 시간에 따라 적응하는 알고리즘은 시간에 따라 국소화 반경이 크게 변동하는 경향을 보였으며, 모델이 시스템 역학의 변화에 따라 반경을 조정하는 것을 학습했다.
• 공간-시간 적응형 케이스에서는 상태 변수마다 국소화 반경이 독립적으로 변동하여, 모델 상태의 서로 다른 영역에서 다른 국소화 척도가 필요함을 시사했다.
• 특징 중요도 분석 결과, 모든 상태 변수가 반경 예측에 동일하게 기여하는 것은 아니며, 일부 변수가 모델의 결정에 더 큰 영향을 미침을 확인했다.
• 훈련 단계는 여러 반경을 사용해 반복적인 EnKF 실행으로 인해 계산 비용이 매우 높아졌으며, 향후 연구에서 최적화가 필요함을 시사했다.
• 최고의 성능은 모델에 따라 다른 오차 지표 가중치 설정에서 달성되었으며, Lorenz 모델에선 높은 KL 가중치가 성능 향상에 기여했고, 쿼드라-지오스트로피컬 모델에선 균형 잡힌 가중치 조합이 더 우수한 결과를 냈다.