[论文解读] Probabilistic Recurrent State-Space Models

Andreas Doerr, Christian Daniel+5 more|ArXiv.org|Jan 31, 2018

Gaussian Processes and Bayesian Inference参考文献 28被引用 9

一句话总结

本文提出概率循环状态空间模型（PR-SSM），一种可扩展的框架，通过结合高斯过程与双重随机变分推断，实现对概率非线性状态空间模型的鲁棒端到端训练。通过展开潜在状态转移并利用可处理的变分近似保留时间相关性，PR-SSM 在真实世界系统辨识基准测试中取得最先进性能，涵盖高维与不稳定动力学系统。

ABSTRACT

State-space models (SSMs) are a highly expressive model class for learning patterns in time series data and for system identification. Deterministic versions of SSMs (e.g. LSTMs) proved extremely successful in modeling complex time series data. Fully probabilistic SSMs, however, are often found hard to train, even for smaller problems. To overcome this limitation, we propose a novel model formulation and a scalable training algorithm based on doubly stochastic variational inference and Gaussian processes. In contrast to existing work, the proposed variational approximation allows one to fully capture the latent state temporal correlations. These correlations are the key to robust training. The effectiveness of the proposed PR-SSM is evaluated on a set of real-world benchmark datasets in comparison to state-of-the-art probabilistic model learning methods. Scalability and robustness are demonstrated on a high dimensional problem.

研究动机与目标

• 解决完全概率化、非线性状态空间模型（SSM）训练中因复杂潜在状态依赖关系而带来的鲁棒性与可扩展性挑战。
• 克服现有方法在潜在状态后验中无法捕捉时间相关性，导致训练不稳定或有偏的问题。
• 通过为初始状态分布设计可批量学习的识别模型，实现对高维与不稳定系统动力学的有效学习。
• 开发一种变分推断框架，保持潜在状态后验的真实结构与时间相关性，提升预测不确定性与模型鲁棒性。

提出的方法

• 提出一种新颖的模型公式化方法，将潜在状态转移在时间上展开，支持时间反向传播，同时保留潜在动力学中的时间相关性。
• 采用基于高斯过程的双重随机变分推断方案，对转移与观测函数进行建模，实现非参数化、灵活的动力学建模。
• 引入针对初始潜在状态分布的识别模型，支持批量学习，提升训练稳定性，尤其适用于慢速或不稳定系统。
• 采用可处理的变分近似，保持潜在状态后验的完整时间相关性结构，与以往方法采用因子化或独立分布近似不同。
• 应用矩匹配与稀疏高斯过程近似（如使用100个诱导点）以确保可扩展性，同时保持预测准确性。
• 结合基于梯度的优化与基于样本的推断，高效学习复杂非线性动力学，并实现合理的不确定性量化。

实验结果

研究问题

• RQ1 能否在具有复杂时间依赖性的高维、非线性时间序列数据上，对概率循环状态空间模型实现鲁棒且可扩展的训练？
• RQ2 与因子化变分近似相比，保留潜在状态后验中的完整时间相关性是否显著提升训练稳定性和预测性能？
• RQ3 针对初始状态分布的识别模型是否能提升训练收敛性与泛化能力，尤其在不稳定或慢速动力学系统中？
• RQ4 在真实世界系统辨识基准测试中，PR-SSM 在长期预测精度与不确定性校准方面相较于最先进方法表现如何？

主要发现

• PR-SSM 在一系列真实世界系统辨识基准测试中达到最先进性能，包括 Actuator、Ballbeam、Drives、Furnace 与 Dryer 数据集。
• 与 GP-NARX、NIGP、REVARB、MSGP 及 SS-GP-SSM 相比，PR-SSM 在高维与不稳定系统上展现出更优的长期预测精度。
• 所提出的双重随机变分推断方案支持在大规模数据集上的可扩展训练，即使某些基线方法因全批量训练不可行而性能下降，PR-SSM 仍能保持性能。
• 针对初始状态分布的识别模型显著提升了训练稳定性与收敛性，尤其在慢速或不稳定动力学场景中表现突出。
• 通过保留潜在状态后验的完整时间相关性，PR-SSM 提供更准确的不确定性估计，并在泛化能力上优于采用因子化或独立近似的模型。
• 该框架成功处理高维问题，在包含最多500个时间步、具有复杂非线性动力学的数据集上展现出可扩展性与鲁棒性。