[论文解读] Variational Gaussian Process Dynamical Systems

Andreas Damianou, Michalis K. Titsias+1 more|arXiv (Cornell University)|Jul 25, 2011

Gaussian Processes and Bayesian Inference参考文献 16被引用 56

一句话总结

本文提出了一种变分高斯过程动态系统（VGPDS），通过在潜在空间中联合学习非线性降维与动态先验，实现了对高维时间序列的完全贝叶斯、非参数建模。通过使用变分推断近似边缘似然，该方法可自动确定最优潜在维度，并在重建高维视频和动作捕捉数据时，产生更平滑、更具上下文感知的结果，优于k-NN基线方法。

ABSTRACT

High dimensional time series are endemic in applications of machine learning such as robotics (sensor data), computational biology (gene expression data), vision (video sequences) and graphics (motion capture data). Practical nonlinear probabilistic approaches to this data are required. In this paper we introduce the variational Gaussian process dynamical system. Our work builds on recent variational approximations for Gaussian process latent variable models to allow for nonlinear dimensionality reduction simultaneously with learning a dynamical prior in the latent space. The approach also allows for the appropriate dimensionality of the latent space to be automatically determined. We demonstrate the model on a human motion capture data set and a series of high resolution video sequences.

研究动机与目标

• 解决最大后验概率（MAP）近似在高斯过程动态系统中的局限性，后者存在过拟合风险且无法确定潜在维度。
• 开发一种完全贝叶斯方法，通过变分推断对潜在变量进行边缘化，实现合理的不确定性处理。
• 自动确定潜在空间的最优维度，无需人工调参或避免过拟合风险。
• 实现对高维时间序列（如视频和传感器数据）的可扩展建模，支持数百万维和数千个时间点的数据。
• 改善对复杂高维序列（如人体运动和视频）的重建与生成效果，优于k-邻域基线方法。

提出的方法

• 采用分层贝叶斯模型，其中观测数据由受高斯过程动态先验控制的低维潜在轨迹生成。
• 采用对潜在变量后验的变分近似，通过优化边缘似然的下界实现可扩展推断。
• 使用时间索引的协方差函数（如RBF、Matérn、周期性）对潜在动力学进行建模，支持灵活的非马尔可夫时间结构。
• 使用独立的高斯过程对从潜在空间到数据空间的观测映射进行建模，其核函数作用于潜在变量。
• 应用自动相关性确定（ARD）于时间核，以实现对相关时间尺度和潜在维度的自动选择。
• 采用随机优化框架，使方法可扩展至大规模数据集，包括高达90万维的视频序列。

实验结果

研究问题

• RQ1 完全贝叶斯、非参数方法是否能在具有不确定潜在状态的高维时间序列建模中优于基于MAP的方法？
• RQ2 变分推断是否可有效应用于高斯过程动态系统，以实现潜在维度的自动选择？
• RQ3 与k-NN基线相比，该模型在重建高维视频序列中的缺失或损坏帧时表现如何？
• RQ4 在长期视频生成任务中，该模型能否生成真实、平滑且高质量的未来帧？
• RQ5 该模型学习复杂非线性时间动态的能力是否能带来更好的泛化性能和上下文感知重建效果？

主要发现

• VGPDS模型在三个测试数据集上的均方误差（MSE）均低于k-NN：Missa数据集为2.52，ocean数据集为9.36，dog数据集为4.01，且模型分别自动选择了最优潜在维度（分别为12、9和6）。
• 在具有平移运动的'Missa'视频中，VGPDS生成了更平滑、上下文一致的重建结果，而k-NN未能保持空间一致性。
• 该模型成功实现了对训练序列的外推，为'dog'视频生成了40帧新帧，呈现出平滑且逼真的奔跑姿态延续。
• 复合核（RBF + 周期性）的使用使模型能够捕捉'dog'数据集中周期性运动及其偏离周期性的部分。
• ARD核长度尺度在训练过程中演化，反映出真实的底层时间结构，证明了模型可自动学习相关时间尺度。
• 该模型生成了高质量、清晰的视频帧，无模糊现象，表明其对复杂高维数据分布具有有效的建模能力。