[论文解读] Learning Stochastic Recurrent Networks

Justin Bayer, Christian Osendorfer|arXiv (Cornell University)|Nov 27, 2014

Machine Learning and Algorithms参考文献 24被引用 195

一句话总结

本文提出了一种新型的递归神经网络——随机递归网络（STORNs），通过引入隐变量来建模复杂且多模态的序列分布。借助随机梯度变分贝叶斯（SGVB），STORNs 实现了端到端训练并具备可靠的似然估计能力，在多音音乐和动作捕捉数据上优于确定性RNN及先前模型，实现了重建与生成任务的最先进性能。

ABSTRACT

Leveraging advances in variational inference, we propose to enhance recurrent neural networks with latent variables, resulting in Stochastic Recurrent Networks (STORNs). The model i) can be trained with stochastic gradient methods, ii) allows structured and multi-modal conditionals at each time step, iii) features a reliable estimator of the marginal likelihood and iv) is a generalisation of deterministic recurrent neural networks. We evaluate the method on four polyphonic musical data sets and motion capture data.

研究动机与目标

• 解决确定性RNN在建模序列分量复杂且多模态条件分布方面的局限性。
• 在具有隐变量的递归模型中实现边缘似然的可靠估计，克服先前方法中难以处理的推断问题。
• 通过引入结构化、随机隐变量来扩展RNN的表征能力，同时保持训练效率。
• 提供确定性RNN的泛化形式，支持在每个时间步生成结构化且多模态的输出分布。
• 在高维、强耦合的序列数据（如多音音乐与3D动作捕捉序列）上评估模型性能。

提出的方法

• 该模型通过在每个时间步引入隐变量 z_t 扩展标准RNN，实现基于历史信息的随机、多模态 x_t 建模。
• 联合似然 p(x_{1:T}, z_{1:T}) 建模为条件分布 p(x_t | z_t, h_t) 与 p(z_t | h_t) 的乘积，其中 h_t 为隐藏状态。
• 识别模型 q(z_{1:T} | x_{1:T}) 采用双向RNN实现，用于推断隐变量的后验分布。
• 使用随机梯度变分贝叶斯（SGVB）通过可微分的似然下界进行模型训练，实现对随机节点的反向传播。
• 对隐变量应用重参数化技巧，使梯度估计可通过低方差的蒙特卡洛采样实现。
• 使用证据下界（ELBO）作为目标函数，优化生成模型与识别模型。

实验结果

研究问题

• RQ1 将隐变量整合进RNN是否能显著提升对复杂、多模态序列分布的建模能力？
• RQ2 SGVB的使用是否能实现对随机RNN的有效且高效训练，并提供可靠的似然估计？
• RQ3 与确定性RNN及先前模型（如RNN-RBM或RTRBM）相比，所提出的STORN模型在重建与生成性能方面表现如何？
• RQ4 STORNs能否有效处理高维、强耦合的序列数据（如动作捕捉与多音音乐）？
• RQ5 该模型的随机性在多大程度上增强了其捕捉序列生成中不确定性与多样性的能力？

主要发现

• 在动作捕捉数据上，STORN模型的均方误差（MSE）达到4.94，显著优于先前模型（如RNN-RBM的MSE为20.1，RTRBM的MSE为16.2）。
• 验证集上的负对数似然估计值为15.99，提供了可计算的比较指标，而RNN-RBM与RTRBM等模型则缺乏可处理的似然估计。
• 模型展现出强大的生成能力，在20步刺激前缀后能生成多样且合理的样本，输出分布中可见明显的不确定性。
• 通过隐变量的后验最大估计实现缺失值插补，成功重建了受损的动作序列，证实了模型的鲁棒性与推理能力。
• STORN模型有效捕捉了高维序列分量间的结构依赖关系，优于采用朴素贝叶斯假设或固定混合成分的模型。
• 采用双向识别模型提升了后验推断质量，从而进一步改善了重建与生成性能。