[논문 리뷰] AI enhanced data assimilation and uncertainty quantification applied to Geological Carbon Storage

Gabriel Serrão Seabra, N. T. Mücke외 3명|arXiv (Cornell University)|2024. 02. 09.

Atmospheric and Environmental Gas DynamicsEnvironmental Science인용 수 3

한 줄 요약

이 연구는 지구권 이산화탄소 저장(GCS) 시뮬레이션을 50% 이상 빠르게 하면서도 높은 물리적 정밀도를 유지하는 데 사용되는 푸리에 신경망 연산자(FNOs)와 트랜스포머-유니넷(T-UNet)을 수반 모델로 사용하는 하이브리드 데이터 융합 프레임워크인 SH-ESMDA와 SH-RML을 도입한다. SH-RML은 자동 미분를 통한 기울기 기반 최적화를 가능하게 하여 표준 ESMDA에 비해 불확실성 정량화를 향상시키며, 훈련 데이터가 제한된 조건에서도 뛰어난 역사 매칭 성능과 강건성을 보여준다.

ABSTRACT

This study investigates the integration of machine learning (ML) and data assimilation (DA) techniques, focusing on implementing surrogate models for Geological Carbon Storage (GCS) projects while maintaining high fidelity physical results in posterior states. Initially, we evaluate the surrogate modeling capability of two distinct machine learning models, Fourier Neural Operators (FNOs) and Transformer UNet (T-UNet), in the context of CO$_2$ injection simulations within channelized reservoirs. We introduce the Surrogate-based hybrid ESMDA (SH-ESMDA), an adaptation of the traditional Ensemble Smoother with Multiple Data Assimilation (ESMDA). This method uses FNOs and T-UNet as surrogate models and has the potential to make the standard ESMDA process at least 50% faster or more, depending on the number of assimilation steps. Additionally, we introduce Surrogate-based Hybrid RML (SH-RML), a variational data assimilation approach that relies on the randomized maximum likelihood (RML) where both the FNO and the T-UNet enable the computation of gradients for the optimization of the objective function, and a high-fidelity model is employed for the computation of the posterior states. Our comparative analyses show that SH-RML offers better uncertainty quantification compared to conventional ESMDA for the case study.

연구 동기 및 목표

• 기계 학습 수반 모델을 활용하여 지구권 이산화탄소 저장(GCS) 프로젝트에서 데이터 융합의 높은 계산 비용 문제를 해결하기 위해.
• 관측 데이터가 제한된 조건에서 CO2 주입 시뮬레이션의 불확실성 정량화(UQ)를 향상시키기 위해.
• 물리 기반 시뮬레이터와 딥 러닝 모델을 융합하여 더 빠르고 정확한 사후 상태 추정을 위한 하이브리드 데이터 융합 프레임워크를 개발하기 위해.
• 다양한 데이터 가용성 조건에서 채널형 저류층 시뮬레이션에 FNOs와 T-UNet을 수반 모델로 사용했을 때의 성능 평가를 위해.
• AI 기반 데이터 융합을 통해 실세계 GCS 프로젝트에 대해 확장 가능하고 효율적이며 신뢰할 수 있는 불확실성 정량화를 실현하기 위해.

제안 방법

• 채널형 저류층에서의 CO2 주입 시뮬레이션을 위한 FNO와 T-UNet 신경망을 수반 모델로 개발하였으며, 고정밀도 DARTS 시뮬레이터 출력 데이터를 기반으로 훈련하였다.
• 수반 기반 하이브리드 ESMDA(SH-ESMDA)를 제안하였으며, 이는 ESMDA 내에서 비용이 많이 드는 시뮬레이터 실행을 FNO 및 T-UNet 수반 모델로 대체하여 계산 비용을 50% 이상 감소시켰다.
• 수반 기반 하이브리드 RML(SH-RML)을 도입하였으며, 이는 신경망에서 자동 미분를 통해 기울기를 계산하여 RML 최적화를 위한 기울기 계산을 가능하게 하여 수작업으로 인접 미분을 유도할 필요 없이 구현하였다.
• 고정밀도 DARTS 시뮬레이션을 통합하여 사후 상태를 계산함으로써, 수반 기반 최적화에도 불구하고 물리적 일관성을 확보하였다.
• 다양한 융합 단계에서 성능을 비교하기 위해 미세지진 및 압력 데이터를 포함한 합성 CO2 주입 사례 연구를 통해 두 프레임워크의 유효성을 검증하였다.
• 에누클리 기반 및 변분형 데이터 융합 기법(ESMDA 및 RML)을 기계 학습 수반 모델로 강화하여 수렴성 향상과 불확실성 정량화 개선을 도모하였다.

Figure 1 : Permeability maps of six models from the dataset.

실험 결과

연구 질문

• RQ1 FNO와 T-UNet 모델은 복잡한 채널형 저류층에서 고정밀도 CO2 주입 시뮬레이션에 대해 정확하고 효율적인 수반 모델로 활용될 수 있는가?
• RQ2 ESMDA에 수반 모델을 적용한 SH-ESMDA의 사용이 GCS 프로젝트의 데이터 융합에서 계산 효율성과 정확도에 어떤 영향을 미치는가?
• RQ3 신경망 기울기를 활용해 RML 최적화를 수행하는 SH-RML은 CO2 저장 응용 분야에서 표준 ESMDA에 비해 더 나은 불확실성 정량화를 제공하는가?
• RQ4 특히 FNO와 T-UNet 아키텍처 간에 훈련 데이터가 제한된 조건에서 모델 성능과 불확실성 정량화는 어떻게 달라지는가?
• RQ5 제안된 하이브리드 프레임워크는 실세계 GCS 프로젝트와 지열 에너지 또는 원자력 폐기물 처분과 같은 다른 지하공학 응용 분야로 확장될 수 있는가?

주요 결과

• 훈련 데이터가 제한된 조건에서 FNO가 T-UNet보다 수반 모델링 정확도에서 뛰어난 성능을 보이며, 데이터 부족 조건에서도 뛰어난 일반화 능력을 입증하였다.
• SH-ESMDA는 융합 단계 수에 따라 표준 ESMDA 대비 최소 50% 이상 계산 시간을 단축시켰으며, 정확도를 손상시키지 않았다.
• SH-RML은 특히 사후 상태 변동성의 정확한 포착과 편향 감소를 통해 표준 ESMDA에 비해 더 나은 역사 매칭과 불확실성 정량화 성능을 달성하였다.
• FNO에서 유도된 자동 미분을 통해 RML 최적화에서 효율적인 기울기 계산이 가능해졌으며, 수작업으로 인접 미분을 유도할 필요가 없어졌다.
• 고해상도 DARTS 시뮬레이터를 최종 사후 상태 계산에 사용함으로써 하이브리드 프레임워크는 높은 물리적 정밀도 결과를 유지하였으며, 모델 신뢰성을 확보하였다.
• 제안된 방법들은 더 큰 복잡한 저류층으로의 확장 가능성이 매우 높으며, 지열 에너지 및 원자력 폐기물 저장과 같은 지하공학 모델링 분야의 광범위한 응용 분야에 강력한 잠재력을 지닌다.

Figure 2 : Histogram of permeability (left) and log of permeability (right) for one sample.