[论文解读] Bayesian Inference and Learning in Gaussian Process State-Space Models with Particle MCMC

Roger Frigola, Fredrik Lindsten+2 more|arXiv (Cornell University)|Jun 12, 2013

Gaussian Processes and Bayesian Inference参考文献 21被引用 82

一句话总结

该论文提出了一种基于粒子马尔可夫链蒙特卡洛（PMCMC）的高斯过程状态空间模型（GP-SSM）的完全贝叶斯推断框架，用于联合估计潜在状态与非参数动力学。通过边缘化高斯过程先验的转移函数，该方法在不假设固定参数形式的前提下，实现了精确的平滑处理与预测不确定性量化，在高度非线性和不确定的复杂动力系统中达到了最先进性能。

ABSTRACT

State-space models are successfully used in many areas of science, engineering and economics to model time series and dynamical systems. We present a fully Bayesian approach to inference \emph{and learning} (i.e. state estimation and system identification) in nonlinear nonparametric state-space models. We place a Gaussian process prior over the state transition dynamics, resulting in a flexible model able to capture complex dynamical phenomena. To enable efficient inference, we marginalize over the transition dynamics function and infer directly the joint smoothing distribution using specially tailored Particle Markov Chain Monte Carlo samplers. Once a sample from the smoothing distribution is computed, the state transition predictive distribution can be formulated analytically. Our approach preserves the full nonparametric expressivity of the model and can make use of sparse Gaussian processes to greatly reduce computational complexity.

研究动机与目标

• 开发一种完全贝叶斯方法，用于在非线性、非参数状态空间模型中联合估计状态与系统识别。
• 通过使用高斯过程灵活表示未知的状态转移动力学，克服参数化模型的局限性。
• 通过边缘化转移函数并直接采样联合平滑分布，实现在GP-SSM中的高效推断。
• 在保持完整非参数表达能力的同时，通过稀疏GP近似降低计算成本。
• 为学习复杂动力系统提供一个稳健的框架，支持不确定性量化，尤其适用于高维或观测不足的状态空间。

提出的方法

• 在状态转移函数上施加高斯过程先验，实现对复杂动力学的非参数建模。
• 在推断过程中边缘化转移函数，从而可直接从状态与超参数的联合平滑分布中采样。
• 使用定制的带祖先重采样的粒子吉布斯采样器（PGAS），即使在动力学未知时也能高效探索平滑分布。
• 一旦采样出状态轨迹，转移函数的后验推断即可解析获得，从而实现对动力学的精确学习。
• 采用带诱导点的稀疏GP近似以降低计算复杂度，同时不损失精度。
• 该方法支持以高斯混合形式的预测分布，能够同时捕捉预测的均值与不确定性。

实验结果

研究问题

• RQ1 是否能够通过完全贝叶斯方法，在非线性状态空间模型中联合推断潜在状态与非参数动力学？
• RQ2 在推断过程中如何对状态转移函数进行边缘化，以保持完整的非参数表达能力？
• RQ3 当动力学未知且以非参数方式建模时，PMCMC采样器能否高效探索平滑分布？
• RQ4 与参数化模型相比，该方法在预测准确率与不确定性量化方面表现如何？
• RQ5 在高维状态空间中，稀疏GP近似是否能在降低计算成本的同时保持性能？

主要发现

• 所提出的GP-SSM在状态转移预测中实现了1.7±0.2的RMSE，显著优于固定参数模型（7.1±0.0）和线性模型（5.5±0.1）。
• 平滑分布准确捕捉了多模态状态轨迹，例如在t=10时，两个符号相反的状态导致了相同的观测值。
• 即使在均值函数较差（模型B）的情况下，GP-SSM仍能生成准确的平滑样本，表明GP先验对模型误设具有强鲁棒性。
• 采用40个诱导点的稀疏GP-SSM在预测任务中实现了1.8±0.2的RMSE，在平滑任务中为2.7±0.4，表现出优异的可扩展性。
• 模型在远离训练数据的区域报告了更高的不确定性，而在观测状态附近不确定性较低，体现了可靠的不确定性量化能力。
• 在仅有100个噪声观测的倒立摆系统中，模型生成了准确的一步 ahead 预测分布，且不确定性带校准良好。