[论文解读] Disentangled State Space Representations

Đorđe Miladinović, Muhammad Waleed Gondal+3 more|arXiv (Cornell University)|Jun 7, 2019

Time Series Analysis and Forecasting被引用 3

一句话总结

本文提出解耦状态空间模型（DSSM），一类非参数化状态空间模型，可显式分离序列数据中的领域不变动态与领域特定因素。通过变分贝叶斯滤波框架，DSSM 实现了鲁棒的跨领域预测、解耦表征学习以及可控序列生成，在不同重力条件下的常微分方程（ODE）系统识别与视频预测任务中展现出最先进性能。

ABSTRACT

Sequential data often originates from diverse domains across which statistical regularities and domain specifics exist. To specifically learn cross-domain sequence representations, we introduce disentangled state space models (DSSM) -- a class of SSM in which domain-invariant state dynamics is explicitly disentangled from domain-specific information governing that dynamics. We analyze how such separation can improve knowledge transfer to new domains, and enable robust prediction, sequence manipulation and domain characterization. We furthermore propose an unsupervised VAE-based training procedure to implement DSSM in form of Bayesian filters. In our experiments, we applied VAE-DSSM framework to achieve competitive performance in online ODE system identification and regression across experimental settings, and controlled generation and prediction of bouncing ball video sequences across varying gravitational influences.

研究动机与目标

• 解决在统计规律不同的异质领域中学习序列动态的挑战。
• 形式化序列数据中解耦领域不变动态与领域特定因素的问题。
• 开发一种灵活的无监督框架，用于学习支持知识迁移与干预的解耦表征。
• 利用解耦表征实现对未见领域中序列的鲁棒预测与操作。

提出的方法

• 提出解耦状态空间模型（DSSM），一类显式解耦领域不变动态与领域特定影响的非参数化 SSM。
• 设计一种基于摊销推理的变分贝叶斯滤波框架，实现 DSSM 的无监督训练，支持时间反向传播。
• 通过后验推理 P(D|X<t) 实现领域识别，同时保持共享的、领域不变的动态模型。
• 应用重参数化技巧，实现基于 VAE 的 DSSM 端到端训练，支持高效可扩展的推理。
• 采用三维潜在空间对领域嵌入进行可视化与评估，以检验视频序列中重力方向的解耦程度。
• 通过推理阶段交换不同序列间的领域嵌入（如重力方向），实现可控生成与干预。

实验结果

研究问题

• RQ1 解耦状态空间模型能否有效分离序列数据中通用的、领域不变的动态与领域特定因素？
• RQ2 解耦在序列建模中如何提升知识迁移能力与对未见领域的泛化性能？
• RQ3 DSSM 在无监督条件下，能在多大程度上学习到有意义、紧凑且拓扑结构忠实的领域表征？
• RQ4 DSSM 是否能实现鲁棒的长时程预测与可控序列操作，例如实现动态交换的视频生成？
• RQ5 基于 VAE 的训练过程在 ODE 识别等复杂序列任务中，如何支持解耦与泛化？

主要发现

• DSSM 在在线 ODE 系统识别任务中达到最先进性能，无需事先知晓 ODE 形式，即可从此前未见的测试序列中准确恢复真实参数。
• 在视频预测任务中，DSSM 超过 K-VAE 和无领域特异性 SSM 基线模型，且在噪声条件下表现优于 SSM 消融模型。
• 该模型成功将包含此前未见重力方向的测试序列嵌入三维领域空间，保持了原始二维重力空间的拓扑结构。
• 解耦表征支持有效的领域交换：将一个序列的重力嵌入注入另一序列，可生成合理且行为一致的视频序列。
• 从先验分布 p₀(D) 和 p₀(S₀) 生成的无控制视频序列表现出合理性与多样性，证明了模型的生成能力。
• 解耦潜在空间实现了有意义的序列表征，即使在缺乏领域标签信息的情况下，不同重力方向的表征也呈现紧凑且分离良好的聚类。