[论文解读] Collapsed Amortized Variational Inference for Switching Nonlinear Dynamical Systems

Zhe Dong, Bryan Seybold+2 more|arXiv (Cornell University)|Oct 21, 2019

Generative Adversarial Networks and Image Synthesis参考文献 28被引用 4

一句话总结

该论文提出了一种用于切换非线性动态系统（SNLDS）的坍缩摊销变分推断方法，通过边缘化离散隐状态并使用摊销推断网络处理连续状态，实现了基于重参数化技巧的高效端到端训练。与先前方法相比，该方法在建模较少模式的非线性动态时，能更优地分割复杂时间序列（如视频和3D人体姿态），尤其在非线性动态建模方面表现更佳。

ABSTRACT

We propose an efficient inference method for switching nonlinear dynamical systems. The key idea is to learn an inference network which can be used as a proposal distribution for the continuous latent variables, while performing exact marginalization of the discrete latent variables. This allows us to use the reparameterization trick, and apply end-to-end training with stochastic gradient descent. We show that the proposed method can successfully segment time series data, including videos and 3D human pose, into meaningful ``regimes'' by using the piece-wise nonlinear dynamics.

研究动机与目标

• 开发一种针对同时具有离散和连续隐变量的切换非线性动态系统（SNLDS）的高效推断方法。
• 通过在边缘化离散状态后对连续变量应用重参数化技巧，实现使用随机梯度下降进行端到端训练。
• 通过引入一种新颖的后验正则化方案，防止单一模式被过度使用，从而缓解SNLDS模型中的后验坍缩问题。
• 与现有模型（如SLDS）相比，提升非线性时间序列（包括视频和3D人体姿态序列）的分割准确性。
• 在真实世界数据集（如CMU MoCap）和具有分段非线性动态的合成运动序列上，验证该方法的有效性。

提出的方法

• 该方法采用坍缩变分推断框架，利用前向-后向算法精确边缘化离散隐状态 $s_{1:T}$，从而实现高效的梯度计算。
• 训练一个摊销推断网络 $q_{\boldsymbol{\phi}}(\mathbf{z}_{1:T}|\mathbf{v}_{1:T})$ 来近似连续状态 $\mathbf{z}_{1:T}$ 的后验分布，从而支持重参数化与可微训练。
• 推断网络采用双向和单向RNN分别编码观测 $\mathbf{x}_{1:T}$ 并传播隐藏状态，且时间步之间共享参数。
• 使用Rao-Blackwellized粒子滤波作为提议分布，但该方法主要依赖单个后验样本，类似于VAE的设定。
• 通过退火熵正则化和温度调度引入后验正则化，以防止模式坍缩并稳定训练过程。
• 模型通过在证据下界（ELBO）上使用随机梯度下降进行联合训练，早期训练阶段采用高熵和高温设置，以鼓励探索所有模式。

实验结果

研究问题

• RQ1 坍缩摊销变分推断能否实现对具有非线性动态的SNLDS的高效且可扩展的训练？
• RQ2 边缘化离散状态在多大程度上提升了训练稳定性，并使得在混合系统中能够应用重参数化？
• RQ3 后验正则化在具有灵活非线性动态的SNLDS模型中，能在多大程度上防止模式坍缩？
• RQ4 与SLDS及其他基线模型相比，该方法在使用最少模式数的情况下，对非线性时间序列的分割表现如何？
• RQ5 退火调度对无监督设置下模型收敛性和分割质量有何影响？

主要发现

• 在非线性2D运动任务中，SNLDS模型显著优于SLDS，F1分数更高且状态数更少，尤其在使用5帧容差进行变化检测时表现更优。
• 在Dubins小车路径数据集上，使用最优退火调度时，SNLDS模型的相对负对数似然性相比基线模型提升了超过10%。
• 在使用CMU MoCap数据集的Salsa舞蹈任务中，模型成功将3D人体运动分割为三个可解释的模式：前后运动、顺时针旋转和逆时针旋转。
• 当采用延迟退火（从50k步开始）时，Salsa舞蹈序列的F1分数提升了超过20%，表明后期正则化有助于学习更清晰的模式。
• 该方法在使用更少模式的情况下实现了比SLDS更优的分割效果，表明非线性模型能比分段线性近似更高效地捕捉复杂动态。
• 将熵系数和温度衰减分别延迟至50k步和100k步开始的退火调度方案，在似然性和F1分数两方面均取得了最佳最终性能。