[论文解读] Bivariate DeepKriging for Large-scale Spatial Interpolation of Wind Fields

Pratik Nag, Ying Sun+1 more|arXiv (Cornell University)|Jul 16, 2023

Energy Load and Power Forecasting被引用 4

一句话总结

本文提出双变量DeepKriging，一种基于径向基函数嵌入的空间自适应深度神经网络，用于大规模双变量风场插值。其在准确度上优于传统协同克里金法，计算时间减少20倍，在中东地区506,771个风数据点上实现了更优的预测与不确定性量化。

ABSTRACT

High spatial resolution wind data are essential for a wide range of applications in climate, oceanographic and meteorological studies. Large-scale spatial interpolation or downscaling of bivariate wind fields having velocity in two dimensions is a challenging task because wind data tend to be non-Gaussian with high spatial variability and heterogeneity. In spatial statistics, cokriging is commonly used for predicting bivariate spatial fields. However, the cokriging predictor is not optimal except for Gaussian processes. Additionally, cokriging is computationally prohibitive for large datasets. In this paper, we propose a method, called bivariate DeepKriging, which is a spatially dependent deep neural network (DNN) with an embedding layer constructed by spatial radial basis functions for bivariate spatial data prediction. We then develop a distribution-free uncertainty quantification method based on bootstrap and ensemble DNN. Our proposed approach outperforms the traditional cokriging predictor with commonly used covariance functions, such as the linear model of co-regionalization and flexible bivariate Matérn covariance. We demonstrate the computational efficiency and scalability of the proposed DNN model, with computations that are, on average, 20 times faster than those of conventional techniques. We apply the bivariate DeepKriging method to the wind data over the Middle East region at 506,771 locations. The prediction performance of the proposed method is superior over the cokriging predictors and dramatically reduces computation time.

研究动机与目标

• 解决气候与可再生能源应用中大规模、非高斯、非平稳双变量风场插值的挑战。
• 克服传统协同克里金法因假设高斯分布而导致的O(N³)计算复杂度问题，难以处理大规模数据集。
• 开发一种基于深度学习的空间预测模型，无需参数化分布假设，即可处理非高斯性、非平稳性及高空间变异性。
• 通过基于自助法的集成方法，实现深度神经网络在空间统计中的高效不确定性量化。
• 在包含中东地区506,771个风观测点的真实数据集上，展示模型的可扩展性与性能，包括对NEOM区域的高分辨率降尺度处理。

提出的方法

• 提出一种深度神经网络（DNN），采用径向基函数（RBFs）实现空间依赖的特征嵌入，将双变量风分量（U和V）作为输入。
• 通过RBFs将空间坐标整合至DNN中，以编码空间依赖性，使网络能够学习复杂且非平稳的空间模式。
• 采用与方差成比例的加权均方误差（MSE）损失函数，以提升两个风分量的预测精度。
• 采用无需分布假设的不确定性量化方法，结合自助抽样与集成DNN，生成预测区间。
• 在完整数据集（最多506,771个位置）上训练模型，而协同克里金法因计算限制仅能处理子样本（147,000个位置）。
• 通过RMSPE、PICP（预测区间覆盖率）和MPIW（平均预测区间宽度）等指标比较性能。

实验结果

研究问题

• RQ1 深度学习模型能否在预测大规模、非高斯双变量风场方面超越经典协同克里金法？
• RQ2 与参数化模型相比，所提出的双变量DeepKriging方法在处理空间风数据中的非平稳性与非高斯性方面表现如何？
• RQ3 该模型在保持或提升预测精度的同时，对大规模空间数据集的计算时间减少程度如何？
• RQ4 非参数化、基于集成的不确定性量化方法是否能在不假设对称t分布的前提下，提供可靠的预测区间？
• RQ5 基于RBF的空间嵌入在捕捉高分辨率风场插值中复杂空间依赖性方面效果如何？

主要发现

• 双变量DeepKriging将RMSPE降低至0.394（使用450,000个训练点），显著优于协同克里金法的RMSPE = 0.882。
• U分量和V分量的PICP分别达到97.1%和95.0%，而协同克里金法分别为60.1%和73.4%，表明预测区间可靠性显著更高。
• 双变量DeepKriging完成点预测耗时16.81分钟（1,009秒），而协同克里金法需2.18天（188,352秒），实现20倍加速。
• 模型的区间预测耗时55.61分钟（3,337秒），仍远快于协同克里金法，展现出良好的可扩展性。
• 该方法实现了从5km×5km到1km×1km的高分辨率空间降尺度，为NEOM区域提供了详细的风场图，助力可再生能源规划。
• 即使在450,000个点上训练，模型性能依然稳健，显示出在大规模空间数据集上的强大泛化能力与可扩展性。