[论文解读] Structured Variational Inference in Unstable Gaussian Process State Space Models

Silvan Melchior, Sebastian Curi+2 more|arXiv (Cornell University)|Jul 16, 2019

Gaussian Processes and Bayesian Inference参考文献 24被引用 4

一句话总结

本文提出CBF-SSM，一种用于高斯过程状态空间模型（GPSSMs）的结构化变分推断算法，可在不稳定且部分可观测的系统中实现学习。通过将后向平滑与可调卡尔曼增益参数的软条件化相结合，CBF-SSM在稳定与不稳定系统中均实现了优于先前方法（如PR-SSM和VCDT）的测试性能，尤其在存在隐藏状态和长序列的场景下表现更优。

ABSTRACT

We propose a new variational inference algorithm for learning in Gaussian Process State-Space Models (GPSSMs). Our algorithm enables learning of unstable and partially observable systems, where previous algorithms fail. Our main algorithmic contribution is a novel approximate posterior that can be calculated efficiently using a single forward and backward pass along the training trajectories. The forward-backward pass is inspired on Kalman smoothing for linear dynamical systems but generalizes to GPSSMs. Our second contribution is a modification of the conditioning step that effectively lowers the Kalman gain. This modification is crucial to attaining good test performance where no measurements are available. Finally, we show experimentally that our learning algorithm performs well in stable and unstable real systems with hidden states.

研究动机与目标

• 解决现有变分推断方法在使用GPSSM学习不稳定且部分可观测的动力系统时的失效问题。
• 通过引入能更好捕捉时间相关性的后向传递，改进GPSSM中的后验近似。
• 通过修改条件化步骤以减小卡尔曼增益，提升无测量值系统在测试时的泛化能力。
• 实现在先前方法因发散或过拟合而失效的不稳定系统中训练更长序列。
• 结合物理模型与数据驱动的GP校正，实现在真实机器人任务中准确且具备不确定性感知的动力学预测。

提出的方法

• 受卡尔曼平滑启发，将后向传递应用于GPSSMs，以改进隐藏状态的后验近似。
• 提出基于平滑估计的条件化步骤，替代直接观测条件化，提升在部分可观测系统中的鲁棒性。
• 引入可调参数 $k$ 以控制卡尔曼增益，实现从完全条件化（类似VCDT）到无条件化（类似PR-SSM）的插值。
• 采用结构化后验分布，通过沿训练轨迹的前向与后向传递保留时间相关性。
• 使用双重随机变分推断结合识别模型，以近似潜变量状态的后验分布。
• 将GP校正项与已知物理模型（如基于ODE的刚体动力学）结合，以提升泛化能力并减少数据需求。

实验结果

研究问题

• RQ1 能否使GPSSMs中的变分推断对不稳定性和部分可观测性更具鲁棒性，从而克服先前方法的失效？
• RQ2 与基于滤波的方法相比，后向平滑传递是否能改进GPSSMs中的后验近似？
• RQ3 通过可调卡尔曼增益参数实现的软条件化，能否提升无测量值系统在测试时的泛化能力？
• RQ4 CBF-SSM能否在不稳定系统中训练更长序列而不会发散或过拟合？
• RQ5 将CBF-SSM与物理模型结合，是否能在真实机器人任务中提供更准确且可靠的不确定性估计？

主要发现

• 在模拟的不稳定Dubin小车模型上，CBF-SSM的测试误差低于PR-SSM和VCDT，且随着训练序列长度增加，优势更加明显。
• 在VoliroX无人机数据集上，CBF-SSM在预测准确性和不确定性校准方面优于PR-SSM和VCDT，即使在存在大过程噪声和隐藏状态的情况下亦然。
• CBF-SSM可在不稳定系统中训练长达300步的序列，而PR-SSM和VCDT因发散或过拟合而失败。
• 当 $k=50$ 时，CBF-SSM在所有数据集上均达到最低测试误差，证明了软条件化的优势。
• 当 $k=1$（更接近VCDT）时，CBF-SSM在完整状态信息可用时表现良好，表明其在有利设置下与先前方法具有一致性。
• 由于增加了额外的后向传递，训练速度慢3.7倍，但所有方法的预测时间保持一致。