[논문 리뷰] Flexible and efficient emulation of spatial extremes processes via variational autoencoders

Likun Zhang, Xiaoyu Ma외 2명|arXiv (Cornell University)|2023. 07. 16.

Climate variability and modelsEnvironmental Science인용 수 3

한 줄 요약

이 논문은 고차원 공간 데이터에서 비정상적이고 종속적인 극단적 사건을 효율적으로 모델링하기 위해 탄력적인 최대 무한가 divisible 과정을 변분 autoencoder 프레임워크에 통합한 새로운 공간 극단적 사건 에미레이터인 XVAE를 제안한다. 극단가 이론과 딥 생성 모델링을 결합함으로써 XVAE는 빠른 베이지안 추론과 정확한 기후 극단의 에미레이션을 가능하게 하여, 30년 분량의 레드시아 해수면 온도 데이터셋에서 전통적 방법에 비해 계산 효율성과 꼬리 종속성 모델링 측면에서 뛰어난 성능을 보인다.

ABSTRACT

Many real-world processes have complex tail dependence structures that cannot be characterized using classical Gaussian processes. More flexible spatial extremes models exhibit appealing extremal dependence properties but are often exceedingly prohibitive to fit and simulate from in high dimensions. In this paper, we aim to push the boundaries on computation and modeling of high-dimensional spatial extremes via integrating a new spatial extremes model that has flexible and non-stationary dependence properties in the encoding-decoding structure of a variational autoencoder called the XVAE. The XVAE can emulate spatial observations and produce outputs that have the same statistical properties as the inputs, especially in the tail. Our approach also provides a novel way of making fast inference with complex extreme-value processes. Through extensive simulation studies, we show that our XVAE is substantially more time-efficient than traditional Bayesian inference while outperforming many spatial extremes models with a stationary dependence structure. Lastly, we analyze a high-resolution satellite-derived dataset of sea surface temperature in the Red Sea, which includes 30 years of daily measurements at 16703 grid cells. We demonstrate how to use XVAE to identify regions susceptible to marine heatwaves under climate change and examine the spatial and temporal variability of the extremal dependence structure.

연구 동기 및 목표

• 유연하고 비정상적인 종속성 구조를 가진 고차원 공간 극단을 정확하게 에미레이션하는 서rogate 모델을 개발하는 것.
• 고차원에서 복잡한 공간 극단 모델의 피팅과 시뮬레이션을 위한 계산의 비가능성을 해결하는 것.
• 기후 및 환경 모델링에서 극단 사건에 대한 빠른 베이지안 추론과 불확실성 정량화를 가능하게 하는 것.
• 공간 필드 에미레이션에서 극단적 종속성을 평가하기에 특화된 검증 프레임워크를 제공하는 것.
• 레드시아에서의 고해상도 30년 분량의 위성 유도 해수면 온도 데이터셋에 대해 본 방법의 효과성을 입증하는 것.

제안 방법

• 극단가 이론에 기반한 탄력적이고 비정상적인 극단적 종속성 특성을 지닌 새로운 최대 무한가 divisible (max-id) 과정을 제안한다.
• max-id 과정을 변분 autoencoder (VAE) 아키텍처 내에 통합하여 XVAE 프레임워크를 구성함으로써 효율적인 사후 근사화를 가능하게 한다.
• 변분 베이즈와 확률적 경량 최적화를 사용하여 잠재 변수와 모델 파라미터를 동시에 추정함으로써 확장 가능한 추론을 실현한다.
• XVAE에 입력하기 전에 각 격자 셀에서 월별 최댓값을 표준화하기 위해 현지별 GEV 분포를 사용한 극단 변환을 적용한다.
• 모든 위치에서의 모수 분포 적합도를 평가하기 위해 윌크의 정리를 활용한 일반화된 최대우도비 검정을 실시한다 (GEV 대 t 분포).
• 공간 이격 거리에 따른 꼬리 종속성 구조와 극단적 행동을 평가하는 커스터마이징된 프레임워크를 활용하여 에미레이션 성능을 검증한다.

Figure 1 : A schematic diagram for the XVAE, in which the parameters $\boldsymbol{\phi}_{e}$ and $\boldsymbol{\phi}_{d}$ in the encoder $q_{\boldsymbol{\phi}_{e}}(\boldsymbol{z}_{t}\mid\boldsymbol{x}_{t})$ and the decoder $p_{\boldsymbol{\phi}_{d}}(\boldsymbol{x}_{t}\mid\boldsymbol{z}_{t})$ are both

실험 결과

연구 질문

• RQ1 딥 생성 모델은 고차원 공간 과정에서 복잡하고 비정상적인 극단적 종속성을 효과적으로 포착하고 에미레이션할 수 있는가?
• RQ2 XVAE 프레임워크는 극단가 모델링에서 전통적인 가우시안 프로세스 에미레이터에 비해 계산 효율성과 정확도 측면에서 어떻게 비교되는가?
• RQ3 XVAE는 특히 약하거나 시간에 따라 변화하는 극단적 종속성이 있는 지역에서 실제 꼬리 종속성 구조를 어느 정도 정확하게 재현할 수 있는가?
• RQ4 기존의 GAN 기반 또는 캄브라 기반 에미레이터에 비해 XVAE는 공간 극단의 공동 꼬리 행동을 더 잘 포착하는가?
• RQ5 고해상도 해수면 온도 데이터에서 레드시아의 공간적 및 시간적 패턴은 어떻게 나타나는가?

주요 결과

• XVAE는 기존의 베이지안 추론에 비해 상당한 계산 속도 향상을 달성하여, 복잡한 공간 극단에 대한 효율적인 사후 시뮬레이션과 불확실성 정량화를 가능하게 한다.
• 특히 동시 극단 사건에 대해, XVAE는 정상적 종속성 모델과 기존의 GAN 기반 에미레이터보다 실제 극단적 종속성 구조를 더 잘 포착한다.
• 레드시아 SST 데이터셋에서 XVAE는 해수면 내측 지역에서 극단적 종속성이 약하고, 30년 간 약간 감소한 경향을 보인다.
• 적합도 검정 결과, 모든 위치에서 GEV 분포가 월별 최댓값에 대해 t 분포보다 더 나은 적합도를 보였으며, GEV 모델 하에서 모든 지점에서 p-값 > 0.05를 기록했다.
• empirical 꼬리 종속성 측정치(χh(u))는 XVAE가 생성한 데이터가 50km, 200km, 500km의 공간 이격 거리에서 관측 데이터와 밀접하게 일치함을 보여준다.
• 16,703개의 격자 셀과 372개의 월별 최댓값을 포함한 고차원 데이터를 성공적으로 처리하여 실제 기후 응용 분야에서의 확장성과 강건성을 입증했다.

Figure 3 : Data replicate (left) and its corresponding emulated fields (XVAE, middle; hetGP , right) from Model III . See Figure E.1 of the Supplementary Material for comparisons for the other models. In all cases, we use data-driven knots for emulation using XVAE.