[论文解读] Learning binary or real-valued time-series via spike-timing dependent plasticity

Takayuki Osogami|arXiv (Cornell University)|Dec 15, 2016

Advanced Memory and Neural Computing参考文献 16被引用 3

一句话总结

该论文通过放松先前的约束，将动态玻尔兹曼机（DyBM）扩展为可同时学习二值化和实值时间序列的模型，使其既能作为二值数据的逻辑回归模型，也能作为实值数据的高斯DyBM。该高斯DyBM通过引入突触可塑性痕迹（eligibility traces）捕捉长期依赖关系，在计算成本相近的前提下，将预测误差降低了高达20%，显著优于VAR模型。

ABSTRACT

A dynamic Boltzmann machine (DyBM) has been proposed as a model of a spiking neural network, and its learning rule of maximizing the log-likelihood of given time-series has been shown to exhibit key properties of spike-timing dependent plasticity (STDP), which had been postulated and experimentally confirmed in the field of neuroscience as a learning rule that refines the Hebbian rule. Here, we relax some of the constraints in the DyBM in a way that it becomes more suitable for computation and learning. We show that learning the DyBM can be considered as logistic regression for binary-valued time-series. We also show how the DyBM can learn real-valued data in the form of a Gaussian DyBM and discuss its relation to the vector autoregressive (VAR) model. The Gaussian DyBM extends the VAR by using additional explanatory variables, which correspond to the eligibility traces of the DyBM and capture long term dependency of the time-series. Numerical experiments show that the Gaussian DyBM significantly improves the predictive accuracy over VAR.

研究动机与目标

• 通过放松限制DyBM的约束，提升其计算灵活性与适用性。
• 证明DyBM可被解释为二值时间序列的逻辑回归模型，从而实现对尖峰模式的高效学习。
• 为实值时间序列开发高斯DyBM模型，通过引入可塑性痕迹扩展向量自回归（VAR）模型，以建模长期依赖关系。
• 证明高斯DyBM在保持低计算复杂度的同时，显著优于VAR模型的预测性能。
• 在高斯DyBM中实现在线、分布式及基于自然梯度的参数学习，以支持可扩展的时间序列建模。

提出的方法

• 放松DyBM的约束，使其能量函数可表示为矩阵-向量形式，从而可被解释为二值时间序列的逻辑回归模型。
• 提出一种高斯DyBM模型，使用多变量正态分布建模实值时间序列，参数通过最大对数似然法学习。
• 将突触可塑性痕迹作为预测模型中的附加解释变量，其中痕迹随时间作为过去尖峰的衰减累加而演化。
• 采用带AdaGrad自适应学习率的自然梯度更新规则，实现实时学习，每一步时间均更新参数与内部状态（可塑性痕迹、FIFO队列）。
• 将时间序列的条件均值建模为过去输入与可塑性痕迹的线性组合，其中可塑性痕迹通过几何衰减机制捕捉长期依赖关系。
• 推导出高斯DyBM作为VAR模型的推广形式，其中滞后d变量被过去尖峰的衰减和（即可塑性痕迹）所取代；当衰减率μ=0时，该模型退化为VAR模型。

实验结果

研究问题

• RQ1 DyBM能否在保留突触可塑性（STDP）生物合理性的同时，通过放松约束实现更灵活的计算？
• RQ2 如何将DyBM适配于实值时间序列建模？其与经典时间序列模型（如VAR）之间有何关系？
• RQ3 在高斯DyBM中，可塑性痕迹相较于标准VAR模型，能在多大程度上提升预测准确性？
• RQ4 高斯DyBM能否在不损失性能的前提下，实现高效在线与分布式训练？
• RQ5 引入可塑性痕迹的计算成本如何？其是否随时间序列长度与传导延迟的增加而保持有利的可扩展性？

主要发现

• 与对应VAR模型相比，高斯DyBM将预测均方误差降低了高达20%，且该改进完全源于利用可塑性痕迹建模长期依赖关系。
• 当仅使用单一衰减率时，高斯DyBM的计算复杂度与VAR模型相当，且学习时间随传导延迟d线性增长。
• 即使在短传导延迟（d=1）条件下，该模型仍优于d=16的VAR模型，证明可塑性痕迹在捕捉扩展时间上下文方面的有效性。
• 可塑性痕迹使高斯DyBM能够建模超出VAR固定滞后结构的长期依赖关系，从而在具有复杂时间动态的时间序列上实现更优泛化能力。
• 高斯DyBM可使用带自然梯度与AdaGrad学习率自适应的随机梯度下降实现实时在线训练，确保参数更新稳定高效。
• 在分布式环境中，高斯DyBM计算效率高，因每个参数更新仅依赖于本地信息，支持可扩展学习。