[논문 리뷰] Efficient surrogate modeling methods for large-scale Earth system models based on machine learning techniques

Dan Lu, Daniel Ricciuto|arXiv (Cornell University)|2019. 01. 16.

demographic modeling and climate adaptation인용 수 18

한 줄 요약

이 논문은 고비용의 지구시스템모델(ESM) 시뮬레이션 20회만으로도 높은 정확도를 달성하는 기계학습 기반의 서rogate 모델링 프레임워크를 제안한다. 이 프레임워크는 차원 감소를 위해 특이값 분해(SVD)를 사용하고, 신경망 서rogate를 학습하기 위해 베이지안 최적화를 적용한다. 이 방법은 42,660개의 탄소 순환 유량 출력에 대해 0.93의 상관계수와 0.02의 평균제곱오차를 기록하여, 새로운 파라미터나 시간대에 대해 재학습 없이도 빠르고 재사용 가능한 예측이 가능하다.

ABSTRACT

Improving predictive understanding of Earth system variability and change requires data-model integration. Efficient data-model integration for complex models requires surrogate modeling to reduce model evaluation time. However, building a surrogate of a large-scale Earth system model (ESM) with many output variables is computationally intensive because it involves a large number of expensive ESM simulations. In this effort, we propose an efficient surrogate method capable of using a few ESM runs to build an accurate and fast-to-evaluate surrogate system of model outputs over large spatial and temporal domains. We first use singular value decomposition to reduce the output dimensions, and then use Bayesian optimization techniques to generate an accurate neural network surrogate model based on limited ESM simulation samples. Our machine learning based surrogate methods can build and evaluate a large surrogate system of many variables quickly. Thus, whenever the quantities of interest change such as a different objective function, a new site, and a longer simulation time, we can simply extract the information of interest from the surrogate system without rebuilding new surrogates, which significantly saves computational efforts. We apply the proposed method to a regional ecosystem model to approximate the relationship between 8 model parameters and 42660 carbon flux outputs. Results indicate that using only 20 model simulations, we can build an accurate surrogate system of the 42660 variables, where the consistency between the surrogate prediction and actual model simulation is 0.93 and the mean squared error is 0.02. This highly-accurate and fast-to-evaluate surrogate system will greatly enhance the computational efficiency in data-model integration to improve predictions and advance our understanding of the Earth system.

연구 동기 및 목표

• 대규모 지구시스템모델(ESM)의 데이터-모델 통합에서 계산 부담을 줄이기 위해 빠르고 정확한 서rogate 모델을 개발한다.
• 공간적·시간적 영역에 걸쳐 수만 개의 변수를 포함하는 고차원 ESM 출력 문제를 해결한다.
• 재학습 없이도 새로운 파라미터, 목표 또는 시뮬레이션 기간에 대해 빠르게 재평가가 가능한 재사용 가능한 서rogate 시스템을 개발한다.
• 지구시스템의 변동성과 변화에 대한 예측적 이해를 향상시키기 위해 모델의 파라미터 공간을 효율적으로 탐색할 수 있도록 한다.

제안 방법

• 고차원 ESM 출력 데이터의 차원을 줄이기 위해 특이값 분해(SVD)를 적용하여 출력 공간 내 주요 패턴을 포착한다.
• 서rogate 모델 학습에 필요한 최소한의 ESM 시뮬레이션을 지능적으로 선택하기 위해 베이지안 최적화를 사용한다.
• 선택된 시뮬레이션 샘플을 바탕으로 감소된 차원의 출력 공간에서 신경망 서rogate를 학습시켜 최소한의 데이터로도 높은 정확도를 확보한다.
• 재학습 없이도 어떤 출력 또는 파라미터 조합에 대해서나 쿼리 가능한 단일 통합 서rogate 시스템을 구축한다.
• 출력 데이터의 저랭크 구조를 활용하여 대규모 공간적·시간적 영역에서의 계산 효율성과 확장성을 유지한다.
• 사전에 학습된 시스템에서 직접 관련 출력을 추출하여 새로운 목표나 파라미터에 대해 서rogate를 직접적으로 신속하게 재평가할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 소수의 고비용 ESM 시뮬레이션만으로도 수천 개의 출력 변수에 걸쳐 고정밀도를 유지할 수 있는 서rogate 모델를 구축할 수 있는가?
• RQ2 SVD와 베이지안 최적화의 조합이 대규모 ESM에서 계산 비용을 줄이면서도 예측 정밀도를 유지하는 데 얼마나 효과적인가?
• RQ3 단일 서rogate 시스템이 재학습 없이도 새로운 파라미터, 목표 또는 시간대에 대한 다양한 쿼리에 얼마나 잘 대응할 수 있는가?
• RQ4 제한된 ESM 시뮬레이션 데이터를 사용하여 고차원 탄소 순환 유량 출력을 예측할 때 도달할 수 있는 정확도 수준은 어느 정도인가?

주요 결과

• 서rogate 모델은 단 20회의 ESM 시뮬레이션으로 42,660개의 탄소 순환 유량 변수에 대해 예측값과 실제 ESM 출력 간 상관계수 0.93를 달성했다.
• 서rogate 예측의 평균제곱오차(MSE)는 0.02로, 제한된 학습 데이터에도 불구하고 높은 예측 정확도를 나타냈다.
• 재학습 없이도 새로운 파라미터나 목표에 대해 빠른 평가와 재사용이 가능하여 계산 오버헤드를 크게 줄였다.
• SVD 기반의 차원 감소 기법이 고차원 출력 공간 내 주요 변동성 모드를 효과적으로 포착했다.
• 베이지안 최적화를 통해 파라미터 공간의 효율적 샘플링이 가능하여 고정밀도 서rogate 모델 구축에 필요한 ESM 실행 수를 최소화했다.
• 복잡한 다변수 출력을 포함한 대규모 지구시스템 모델링 응용 분야에서 이 방법은 확장성과 강건성을 입증했다.