[论文解读] Structured Bayesian Gaussian process latent variable model

Steven Atkinson, Nicholas Zabaras|arXiv (Cornell University)|May 22, 2018

Gaussian Processes and Bayesian Inference参考文献 8被引用 7

一句话总结

本文提出了一种结构化贝叶斯高斯过程潜在变量模型（SGPLVM），通过参数化核函数和Kronecker结构协方差矩阵，显式建模高维数据中的空间相关性，同时保持计算效率。通过采用折叠变分推断方法，该模型在图像缺失数据插补和视频帧超分辨率重建任务中表现出色，在RMSE和MNLP指标上均优于标准模型，同时保持了可处理的推断复杂度。

ABSTRACT

We introduce a Bayesian Gaussian process latent variable model that explicitly captures spatial correlations in data using a parameterized spatial kernel and leveraging structure-exploiting algebra on the model covariance matrices for computational tractability. Inference is made tractable through a collapsed variational bound with similar computational complexity to that of the traditional Bayesian GP-LVM. Inference over partially-observed test cases is achieved by optimizing a "partially-collapsed" bound. Modeling high-dimensional time series systems is enabled through use of a dynamical GP latent variable prior. Examples imputing missing data on images and super-resolution imputation of missing video frames demonstrate the model.

研究动机与目标

• 解决现有贝叶斯GP-LVM在处理高维数据中空间相关性方面的局限性。
• 通过引入结构化的空间先验，提升缺失数据插补的样本效率和预测准确性。
• 通过动态先验实现对时间序列数据的更高分辨率推断与生成，超越训练数据的分辨率。
• 通过Kronecker结构协方差矩阵和折叠变分推断，保持计算可处理性。
• 提供一种可解释的参数化核函数，用于建模复杂数据中的空间及时空依赖关系。

提出的方法

• 该模型通过引入显式编码空间相关性的结构化核函数，扩展了贝叶斯GP-LVM框架。
• 利用协方差矩阵中的Kronecker积结构实现高效计算，将复杂度降低至与稀疏GP模型相当的水平。
• 通过解析积分掉诱导输出，推导出折叠变分下界，使推断效率与标准稀疏GP-LVM相当。
• 对于部分观测的测试数据，采用“部分折叠”变分下界，对训练数据使用折叠项，对测试数据使用未折叠项。
• 引入动态GP先验以建模时间序列数据中的时间依赖性，实现视频中的插值与超分辨率。
• 利用Kronecker积的特征分解性质，高效计算变分下界与预测分布。

实验结果

研究问题

• RQ1 能否在贝叶斯GP-LVM框架内显式建模高维数据中的结构化空间相关性，以提升样本效率和预测准确性？
• RQ2 在GP-LVM协方差矩阵中引入空间结构时，如何保持计算可处理性？
• RQ3 该模型在未见于训练阶段的更高分辨率数据上，其泛化能力如何，特别是在图像与视频插补任务中？
• RQ4 结合潜在变量建模与结构化核函数，是否能显著提升缺失数据插补性能，优于标准GP-LVM或结构化GP回归？
• RQ5 引入动态先验在多大程度上增强了模型对如视频帧等时间相关高维序列的重建能力？

主要发现

• SGPLVM在高分辨率视频帧插补任务中达到RMSE 0.13和MNLP -2.13，显著优于结构化GP基线模型（RMSE 0.23，MNLP -0.021）。
• 该模型仅使用640×360的训练数据，成功在1280×720分辨率下重建缺失视频帧，展示了无需高分辨率样本的超分辨率能力。
• 潜在变量建模对性能至关重要，与无此类结构的模型相比，其重建质量显著更优。
• 空间核中学习到的逆长度尺度揭示了图像维度间可解释的空间依赖关系，证实了空间相关性建模的有效性。
• 部分折叠变分下界实现了对部分观测测试数据的精确推断，同时保持了计算效率。
• 动态SGPLVM有效捕捉了时间动态，后验均值潜在变量在帧间表现出平滑、连续的时间演化。