[논문 리뷰] Bivariate DeepKriging for Large-scale Spatial Interpolation of Wind Fields

Pratik Nag, Ying Sun외 1명|arXiv (Cornell University)|2023. 07. 16.

Energy Load and Power Forecasting인용 수 4

한 줄 요약

이 논문은 대규모 이元 풍속장 보간을 위한 원형기저함수( radial basis function, RBF) 임bedding를 갖는 공간적 적응형 딥뉴럴넷인 Bivariate DeepKriging을 제안한다. 이는 전통적인 cokriging보다 정확도가 뛰어나며 계산 시간을 20배 감소시켜 중동 지역의 506,771개 풍속 데이터 포인트에서 뛰어난 예측 및 불확실성 정량화 성능을 달성한다.

ABSTRACT

High spatial resolution wind data are essential for a wide range of applications in climate, oceanographic and meteorological studies. Large-scale spatial interpolation or downscaling of bivariate wind fields having velocity in two dimensions is a challenging task because wind data tend to be non-Gaussian with high spatial variability and heterogeneity. In spatial statistics, cokriging is commonly used for predicting bivariate spatial fields. However, the cokriging predictor is not optimal except for Gaussian processes. Additionally, cokriging is computationally prohibitive for large datasets. In this paper, we propose a method, called bivariate DeepKriging, which is a spatially dependent deep neural network (DNN) with an embedding layer constructed by spatial radial basis functions for bivariate spatial data prediction. We then develop a distribution-free uncertainty quantification method based on bootstrap and ensemble DNN. Our proposed approach outperforms the traditional cokriging predictor with commonly used covariance functions, such as the linear model of co-regionalization and flexible bivariate Matérn covariance. We demonstrate the computational efficiency and scalability of the proposed DNN model, with computations that are, on average, 20 times faster than those of conventional techniques. We apply the bivariate DeepKriging method to the wind data over the Middle East region at 506,771 locations. The prediction performance of the proposed method is superior over the cokriging predictors and dramatically reduces computation time.

연구 동기 및 목표

• 기후 및 재생 가능 에너지 응용 분야에서 대규모, 비정규분포, 비 stationary한 이원 풍속장 보간 문제를 해결한다.
• 대규모 데이터셋에서 O(N³) 계산 복잡도를 가지며 정규분포를 가정하는 전통적 cokriging의 한계를 극복한다.
• 비모수적 분포 가정 없이 비정규성, 비stationarity 및 높은 공간 변동성을 다룰 수 있는 딥러닝 기반 공간 예측 모델을 개발한다.
• 딥뉴럴넷에 대한 부트스트랩 기반 앙상블 방법을 통해 효율적인 불확실성 정량화를 가능하게 한다.
• 실제 중동 지역의 506,771개 풍속 관측점 데이터셋을 대상으로 확장성과 성능을 입증한다. 이는 NEOM 지역에 대한 고해상도 다운스케일링을 포함한다.

제안 방법

• 이원 풍속 성분(U 및 V)을 입력으로 사용하는 공간적으로 의존적인 특징 임베딩을 갖춘 딥뉴럴넷(DNN)을 제안한다. 이는 원형기저함수(RBF)를 활용한다.
• 공간 좌표를 RBF를 통해 DNN에 통합하여 공간적 의존성을 인코딩함으로써, 네트워크가 복잡한 비stationary 공간 패턴을 학습할 수 있도록 한다.
• 분산 비례 가중치를 갖는 가중치가 부여된 평균제곱오차(MSE) 손실 함수를 사용하여 두 풍속 성분의 예측 정확도를 향상시킨다.
• 부트스트랩 리샘플링과 앙상블 DNN을 활용한 분포무관 불확실성 정량화 방법을 구현하여 예측 구간을 생성한다.
• cokriging이 계산 제약으로 인해 최대 147,000개의 샘플에 국한되는 것과는 달리, 전체 데이터셋(최대 506,771개 위치)을 기반으로 모델을 훈련한다.
• RMSPE, PICP(예측 구간 커버리지 확률), MPIW(평균 예측 구간 폭) 지표를 사용하여 성능을 비교한다.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 기존 cokriging보다 대규모 비정규분포 이원 풍속장 예측에서 뛰어난 성능을 보일 수 있는가?
• RQ2 제안된 Bivariate DeepKriging 방법은 비모수적 모델 대비 비stationarity 및 비정규성에 어떻게 대응하는가?
• RQ3 거대한 공간 데이터셋에서 예측 정확도를 유지하거나 향상시키면서 계산 시간을 얼마나 줄일 수 있는가?
• RQ4 비모수적, 앙상블 기반 불확실성 정량화 방법은 대칭 t분포를 가정하지 않고 신뢰할 수 있는 예측 구간을 제공할 수 있는가?
• RQ5 RBF 기반 공간 임베딩은 고해상도 풍속장 보간에서 복잡한 공간 의존성을 얼마나 잘 포착하는가?

주요 결과

• Bivariate DeepKriging는 450,000개의 훈련 포인트를 사용할 때 RMSPE를 0.394로 줄여 cokriging의 RMSPE = 0.882보다 유의미하게 뛰어나다.
• U 성분과 V 성분의 PICP는 각각 97.1%와 95.0%를 기록했으며, cokriging의 60.1% 및 73.4%와 비교해 훨씬 더 신뢰할 수 있는 예측 구간을 제공한다.
• Bivariate DeepKriging는 점 예측을 16.81분(1,009초)에 수행한 반면, cokriging은 2.18일(188,352초)이 소요되어 20배의 속도 향상을 달성했다.
• 모델의 구간 예측은 55.61분(3,337초)이 소요되었으며, 여전히 cokriging보다 훨씬 빠르며 확장성을 입증했다.
• 이 방법을 통해 중동 지역의 NEOM 지역에서 5km×5km에서 1km×1km로 고해상도 다운스케일링을 수행했으며, 재생 가능 에너지 계획을 위한 상세한 풍속장 지도를 제공했다.
• 모델은 450,000개 포인트로 훈련된 후에도 강력한 일반화 및 대규모 공간 데이터셋에서의 확장성을 입증하여 안정적인 성능을 보였다.