[论文解读] Adaptive Drift-Diffusion Process to Learn Time Intervals

François Rivest, Yoshua Bengio|arXiv (Cornell University)|Mar 11, 2011

Neural dynamics and brain function参考文献 19被引用 31

一句话总结

该论文提出了一种自适应漂移扩散模型，能够在不依赖中心时钟、无界累加器或预定义延迟线的情况下学习时间间隔。通过在简单的时间积分器上应用几何学习规则，该模型实现了符合韦伯定律的精度——时间可变性与间隔大小成正比——并且收敛所需的试验次数与间隔长度无关，为神经系统的间隔计时提供了生物上合理的解决方案。

ABSTRACT

Animals learn the timing between consecutive events very easily. Their precision is usually proportional to the interval to time (Weber's law for timing). Most current timing models either require a central clock and unbounded accumulator or whole pre-defined populations of delay lines, decaying traces or oscillators to represent elapsing time. Current adaptive recurrent neural networks fail at learning to predict the timing of future events (the 'when') in a realistic manner. In this paper, we present a new model of interval timing, based on simple temporal integrators, derived from drift-diffusion models. We develop a simple geometric rule to learn 'when' instead of 'what'. We provide an analytical proof that the model can learn inter-event intervals in a number of trials independent of the interval size and that the temporal precision of the system is proportional to the timed interval. This new model uses no clock, no gradient, no unbounded accumulators, no delay lines, and has internal noise allowing generations of individual trials. Three interesting predictions are made.

研究动机与目标

• 为以生物上合理的方式解决学习事件间间隔的挑战。
• 克服现有模型依赖中心时钟、延迟线或振荡器的局限性。
• 开发一种能够学习事件‘何时’发生而非仅‘是什么’的循环神经网络。
• 确保时间精度与间隔大小成比例，符合韦伯定律。
• 提供一种收敛所需试验次数与间隔持续时间无关的学习规则。

提出的方法

• 该模型使用源自漂移扩散过程的简单时间积分器来表示时间流逝。
• 应用几何学习规则，根据反馈调整积分器参数，以实现对‘何时’事件发生的学。
• 该学习规则设计为无梯度，并通过自适应阈值避免无界累加。
• 引入内部噪声以模拟生物变异性，并实现单次试验响应的生成。
• 该模型不依赖预定义的振荡器群体、衰减痕迹或延迟线。
• 通过解析推导证明，收敛所需的试验次数与间隔大小无关。

实验结果

研究问题

• RQ1 循环神经网络是否能够在没有中心时钟的情况下学习预测未来事件的时间？
• RQ2 如何设计一种学习规则，以实现与间隔大小成比例的时间精度（即韦伯定律）？
• RQ3 是否可能在不考虑间隔持续时间的情况下，实现时间间隔学习的快速收敛？
• RQ4 是否可能在避免无界累加器或预定义延迟线的同时，仍能学习时间间隔？
• RQ5 内部噪声在学习框架中如何促进单次试验的时间响应生成？

主要发现

• 该模型在与间隔大小无关的试验次数内学习事件间间隔，表现出高效学习能力。
• 时间精度与所计时的间隔成比例，满足时间上的韦伯定律。
• 该模型无需中心时钟、无界累加器、延迟线或预定义振荡器。
• 几何学习规则使系统能够学习‘何时’事件发生，而不仅仅是‘是什么’。
• 内部噪声支持单次试验响应的生成，增强了生物合理性。
• 解析证明确认，该模型在有限的学习步数内收敛至正确的时间。