[논문 리뷰] Spatio-Temporal Super-Resolution Data Assimilation (SRDA) Utilizing Deep Neural Networks with Domain Generalization

Yuki Yasuda, Ryo Onishi|arXiv (Cornell University)|2022. 12. 07.

Meteorological Phenomena and Simulations인용 수 4

한 줄 요약

이 논문은 저해상도 물리 기반 시뮬레이션과 신경망을 결합하여 고해상도 대기 및 해양 상태를 추론하는 물리 기반 딥러닝 프레임워크인 공간-시간 초해상도 데이터 융합(4D-SRDA)을 제안한다. SR-mixup를 통한 도메인 일반화된 데이터 증강을 통합함으로써, 분포 이질성 조건에서도 강건하고 계산 비용이 적은 초해상도 추론을 달성하였으며, 기존 기준 방법 대비 정확도와 속도에서 뛰어난 성능을 보였다.

ABSTRACT

Deep learning has recently gained attention in the atmospheric and oceanic sciences for its potential to improve the accuracy of numerical simulations or to reduce computational costs. Super-resolution is one such technique for high-resolution inference from low-resolution data. This paper proposes a new scheme, called four-dimensional super-resolution data assimilation (4D-SRDA). This framework calculates the time evolution of a system from low-resolution simulations using a physics-based model, while a trained neural network simultaneously performs data assimilation and spatio-temporal super-resolution. The use of low-resolution simulations without ensemble members reduces the computational cost of obtaining inferences at high spatio-temporal resolution. In 4D-SRDA, physics-based simulations and neural-network inferences are performed alternately, possibly causing a domain shift, i.e., a statistical difference between the training and test data, especially in offline training. Domain shifts can reduce the accuracy of inference. To mitigate this risk, we developed super-resolution mixup (SR-mixup)--a data augmentation method for domain generalization. SR-mixup creates a linear combination of randomly sampled inputs, resulting in synthetic data with a different distribution from the original data. The proposed methods were validated using an idealized barotropic ocean jet with supervised learning. The results suggest that the combination of 4D-SRDA and SR-mixup is effective for robust inference cycles. This study highlights the potential of super-resolution and domain-generalization techniques, in the field of data assimilation, especially for the integration of physics-based and data-driven models.

연구 동기 및 목표

• 저해상도 물리 기반 모델을 사용하여 대기 및 해양 시뮬레이션에서 고해상도 추론을 계산적으로 효율적으로 수행하는 방법을 개발하기 위해.
• 학습 데이터와 추론 데이터 간 통계적 차이로 인한 데이터 융합에서 발생하는 도메인 이질성 문제를 해결하기 위해.
• 도메인 일반화를 통해 물리 기반과 데이터 기반 모델의 융합 모델링에서 신경망 추론의 강건성을 향상시키기 위해.
• 기존의 앙상블 기반 데이터 융합 방법과 비교해도 고해상도 정확도를 유지하면서 계산 비용을 감소시키기 위해.
• 3D 지구 시스템 데이터에 대한 실용적 구현을 위해 패치 기반 학습 전략을 탐색함으로써 대규모 3D 시스템에의 확장성을 확보하기 위해.

제안 방법

• 저해상도 입력에서 고해상도 공간-시간 상태를 생성하기 위해 물리 기반 시뮬레이션과 신경망 추론을 번갈아 적용하는 프레임워크를 구현한다.
• 고해상도 기준 데이터를 사용하여 지도 학습 방식으로, 초해상도 및 데이터 융합을 동시에 수행하는 딥 뉴럴 네트워크를 종단 간(end-to-end)으로 학습시킨다.
• SR-mixup는 임의의 입력 쌍을 선형 조합하여 합성 학습 샘플을 생성하는 데이터 증강 기법으로, 도메인 일반화 성능을 향상시킨다.
• 효율적인 특징 추출 및 해상도 향상에 기여하기 위해 합성곱층, 픽셀 셔플 업샘플링, 트랜스포머 기반 어텐션 블록을 조합한 신경망 아키텍처를 구현한다.
• 기존의 앙상블 시뮬레이션을 피함으로써, 기존의 앙상블 칼만 필터(EnKFs) 대비 계산 비용을 크게 감소시킨다.
• 현재 구현에서는 전체 2D 유동장에서 학습을 수행하고 있으며, 향후 3D 시스템에의 확장성을 고려해 패치 기반 학습 전략을 탐색할 예정이다.

실험 결과

연구 질문

• RQ1 앙상블 시뮬레이션을 요구하지 않는 물리 기반 프레임워크에서 신경망이 공간-시간 초해상도 및 데이터 융합을 효과적으로 수행할 수 있는가?
• RQ2 학습 데이터와 추론 데이터 간의 도메인 이질성이 물리-데이터 융합 모델의 신경망 추론 강건성에 미치는 영향은 어떠한가?
• RQ3 SR-mixup가 지구 시스템 모델링에서 분포 이질성 조건 하에서 일반화 성능 향상과 오차 감소에 얼마나 기여하는가?
• RQ4 4D-SRDA의 계산 비용은 기존의 앙상블 기반 데이터 융합 방법(예: EnKF)과 비교해 어떻게 되는가?
• RQ5 제안된 프레임워크는 패치 기반 학습 전략을 통해 3D 지구 시스템 데이터로 확장될 수 있는가?

주요 결과

• 4D-SRDA 프레임워크는 앙상블 칼만 필터(EnKFs)보다 계산 비용을 크게 낮추면서도, 희박한 관측 조건에서 HR EnKF와 유사한 정확도를 유지하였다.
• 관측이 희박한 조건에서 ST-SRDA의 오차는 HR EnKF와 유사해졌으며, 제한된 관측 조건 하에서도 거의 최적의 성능을 보였다.
• ST-SRDA의 월 타임(wall time)은 EnKFs보다 현저히 짧았으며, 이는 계산 효율성의 우수함을 입증하였다.
• SR-mixup 없이 학습한 경우 오차가 크게 증가하여, 분포 이질성 존재 조건에서 강건한 추론을 확보하기 위해 SR-mixup를 통한 도메인 일반화가 필수적임을 확인하였다.
• 다양한 관측 밀도 조건에서 일관된 성능을 보였으며, 학습 및 테스트 데이터 간의 노이즈와 통계적 차이에 대해서도 강건성을 확보하였다.
• 앙상블 기반 방법에 대한 확장 가능한 효율적 대안을 제공하였으며, 향후 패치 기반 학습 전략을 통해 3D 대기 및 해양 모델로의 확장 가능성이 있다.