[论文解读] Spatially Aggregated Gaussian Processes with Multivariate Areal Outputs

Yusuke Tanaka, Toshiyuki Tanaka+5 more|arXiv (Cornell University)|Jan 1, 2019

Gaussian Processes and Bayesian Inference被引用 6

一句话总结

本文提出了一种多变量区域高斯过程模型，可联合推断多个空间粒度不同的区域数据集中的空间相关函数。通过将输出建模为共享潜在高斯过程的线性组合，并在观测模型中引入空间聚合，该方法能够准确细化粗粒度数据，并通过跨领域迁移学习提升性能。

ABSTRACT

We propose a probabilistic model for inferring the multivariate function from multiple areal data sets with various granularities. Here, the areal data are observed not at location points but at regions. Existing regression-based models can only utilize the sufficiently fine-grained auxiliary data sets on the same domain (e.g., a city). With the proposed model, the functions for respective areal data sets are assumed to be a multivariate dependent Gaussian process (GP) that is modeled as a linear mixing of independent latent GPs. Sharing of latent GPs across multiple areal data sets allows us to effectively estimate the spatial correlation for each areal data set; moreover it can easily be extended to transfer learning across multiple domains. To handle the multivariate areal data, we design an observation model with a spatial aggregation process for each areal data set, which is an integral of the mixed GP over the corresponding region. By deriving the posterior GP, we can predict the data value at any location point by considering the spatial correlations and the dependences between areal data sets, simultaneously. Our experiments on real-world data sets demonstrate that our model can 1) accurately refine coarse-grained areal data, and 2) offer performance improvements by using the areal data sets from multiple domains.

研究动机与目标

• 解决在不同领域中具有不同空间粒度的多变量区域数据建模挑战。
• 通过共享潜在高斯过程，实现多个区域数据集之间空间相关结构的有效共享。
• 构建一个统一的概率框架，将区域观测建模为混合高斯过程的空间积分。
• 通过利用区域数据集之间的依赖关系和空间相关结构，提升预测准确性。
• 通过利用共享潜在空间过程，支持跨领域的迁移学习。

提出的方法

• 该模型将多变量区域输出表示为独立潜在高斯过程的线性混合，以捕捉跨数据集的依赖关系。
• 每个区域数据集的观测被建模为其对应区域上混合高斯过程的空间积分（聚合）。
• 通过在每个区域的空间域上对混合GP进行积分，推导出联合似然，从而实现对区域观测的一致建模。
• 后验推断通过包含空间相关性和多变量依赖关系的闭式后验GP完成。
• 通过在具有不同粒度或空间域的领域之间共享潜在过程，该模型支持迁移学习。
• 采用变分推断方法近似潜在过程的后验分布，以实现可扩展的推断。

实验结果

研究问题

• RQ1 统一的概率模型能否有效处理多个领域中具有不同空间粒度的多变量区域数据？
• RQ2 在区域数据设置中，如何联合建模空间相关性和跨数据集依赖关系？
• RQ3 共享潜在高斯过程在多大程度上能提升粗粒度区域数据的预测准确性？
• RQ4 该模型能否在具有异质数据粒度的不同空间领域之间实现有效的迁移学习？
• RQ5 空间聚合过程在多大程度上影响未观测位置预测结果的保真度？

主要发现

• 通过利用空间相关性和多变量依赖关系，该模型显著提升了粗粒度区域数据的细化效果。
• 与单领域模型相比，整合来自不同领域的多个区域数据集可带来性能提升。
• 使用共享潜在高斯过程可实现跨不同空间粒度领域的有效迁移学习。
• 后验GP通过结合空间相关性和跨数据集信息，可在任意位置提供准确的点预测。
• 空间聚合模型能有效将区域观测建模为区域上的积分，从而提高模型与现实世界数据的一致性。