[论文解读] Boltzmann machines for time-series

Takayuki Osogami|arXiv (Cornell University)|Aug 20, 2017

Neural Networks and Reservoir Computing参考文献 42被引用 8

一句话总结

本文综述了用于时间序列建模的玻尔兹曼机，重点介绍动态玻尔兹曼机（DyBMs），其可在在线设置中实现局部学习。与反向传播时间（BPTT）相比，后者在序列长度上具有线性计算复杂度，DyBMs采用受脉冲时序依赖可塑性（STDP）启发的时序局部学习规则，实现无论历史长度如何都保持恒定每步复杂度的高效在线训练。

ABSTRACT

We review Boltzmann machines extended for time-series. These models often have recurrent structure, and back propagration through time (BPTT) is used to learn their parameters. The per-step computational complexity of BPTT in online learning, however, grows linearly with respect to the length of preceding time-series (i.e., learning rule is not local in time), which limits the applicability of BPTT in online learning. We then review dynamic Boltzmann machines (DyBMs), whose learning rule is local in time. DyBM's learning rule relates to spike-timing dependent plasticity (STDP), which has been postulated and experimentally confirmed for biological neural networks.

研究动机与目标

• 为解决在循环玻尔兹曼机在线学习中反向传播时间（BPTT）的高计算成本问题。
• 提出动态玻尔兹曼机（DyBMs）作为具有时序局部学习规则的可扩展替代方案。
• 通过脉冲时序依赖可塑性（STDP）将DyBM学习规则与生物合理性联系起来。
• 实现具有长期依赖关系的时间序列模型的高效在线学习。
• 提供一种基于能量模型的可扩展、可微分时间序列建模框架，其具有局部学习动力学。

提出的方法

• 提出动态玻尔兹曼机（DyBMs）作为玻尔兹曼机的时间序列扩展，具有循环结构和局部学习规则。
• 使用带折扣因子 γ 的递归梯度计算，以高效近似长期依赖关系。
• 采用递归更新规则对梯度估计进行维护，确保在线学习中每步计算复杂度恒定。
• 引入类似动量的隐藏单元激活差异递归平均，以稳定学习过程。
• 应用学习规则，使用过去时间步的预测误差的时序折扣和来更新参数。
• 通过引入双向DyBMs扩展框架，其中前向和后向模型共享参数，以提升学习稳定性和收敛性。

实验结果

研究问题

• RQ1 能否在长序列的在线设置中高效训练玻尔兹曼机模型？
• RQ2 如何在循环能量模型中降低BPTT的计算复杂度？
• RQ3 该学习规则在时间序列建模中的生物合理性如何？
• RQ4 局部学习规则能否在序列建模中实现与BPTT相当的性能？
• RQ5 如何高效追踪隐藏单元激活差异以支持在线参数更新？

主要发现

• DyBM学习规则在在线学习中实现了与先前时间序列长度无关的恒定每步计算复杂度。
• DyBM学习规则在数学上与脉冲时序依赖可塑性（STDP）类似，从而与生物神经可塑性建立联系。
• 使用折扣因子 γ 的递归梯度计算可高效近似长期依赖关系，而无需存储过去状态。
• 采用双向DyBMs通过利用前向和后向方向的互补学习动力学，提升了学习稳定性和参数估计性能。
• 该方法支持时间序列生成、预测和异常检测的可扩展在线训练，且内存开销极小。
• 实验结果表明，DyBMs在时间序列任务中实现了具有竞争力的性能，同时保持了计算效率。