[论文解读] Optimality of short-term synaptic plasticity in modelling certain dynamic environments

Timoleon Moraitis, Abu Sebastian+1 more|arXiv (Cornell University)|Sep 15, 2020

Advanced Memory and Neural Computing参考文献 65被引用 4

一句话总结

本文证明，短期突触可塑性（STP），特别是具有短期增强的脉冲时序依赖可塑性（STDP），在动态变换环境中进行预测和推断时是贝叶斯最优的。作者表明，仅使用局部、无监督STP的脉冲神经网络（SNN）能够识别高度失真、未见过的动态刺激——其表现优于通过反向传播训练的深度神经网络，确立了STP作为类脑人工智能计算优势的核心机制。

ABSTRACT

Biological neurons and their in-silico emulations for neuromorphic artificial intelligence (AI) use extraordinarily energy-efficient mechanisms, such as spike-based communication and local synaptic plasticity. It remains unclear whether these neuronal mechanisms only offer efficiency or also underlie the superiority of biological intelligence. Here, we prove rigorously that, indeed, the Bayes-optimal prediction and inference of randomly but continuously transforming environments, a common natural setting, relies on short-term spike-timing-dependent plasticity, a hallmark of biological synapses. Further, this dynamic Bayesian inference through plasticity enables circuits of the cerebral cortex in simulations to recognize previously unseen, highly distorted dynamic stimuli. Strikingly, this also introduces a biologically-modelled AI, the first to overcome multiple limitations of deep learning and outperform artificial neural networks in a visual task. The cortical-like network is spiking and event-based, trained only with unsupervised and local plasticity, on a small, narrow, and static training dataset, but achieves recognition of unseen, transformed, and dynamic data better than deep neural networks with continuous activations, trained with supervised backpropagation on the transforming data. These results link short-term plasticity to high-level cortical function, suggest optimality of natural intelligence for natural environments, and repurpose neuromorphic AI from mere efficiency to computational supremacy altogether.

研究动机与目标

• 确定生物突触可塑性机制，特别是短期可塑性（STP），是否不仅支撑能效优势，也构成自然智能计算优越性的基础。
• 探究STP是否能在随时间连续、随机变换的环境中实现最优贝叶斯推断。
• 检验仅使用无监督、局部STP的脉冲神经网络（SNN）是否能在动态视觉识别任务中优于标准人工神经网络（ANNs）。
• 通过严格的贝叶斯框架，建立低层次突触动力学与高层次皮层计算之间的机制联系。

提出的方法

• 作者推导出数学证明，表明STP可在具有连续随机变换的环境中实现贝叶斯最优推断。
• 他们实现了一个在突触处采用STP的脉冲神经网络（SNN），仅通过无监督、局部可塑性规则训练，无需反向传播。
• 该SNN采用短期增强机制（ST-STDP），根据脉冲时序和近期活动动态调节突触效能。
• 该网络在涉及形变刺激（如旋转人脸）的动态视觉识别任务中进行测试，要求网络识别此前未见过的视角。
• 性能与在相同动态数据集上使用监督反向传播训练的标准ANNs（包括RNNs和LSTMs）进行比较。
• 该模型引入了一种突触级别的短期记忆机制，与RNN中的循环记忆不同，使每个突触均可独立存储记忆。

实验结果

研究问题

• RQ1 短期突触可塑性（STP）是否在动态变换环境中实现推断与预测的贝叶斯最优？
• RQ2 仅使用无监督、局部STP的脉冲神经网络（SNN）是否能比标准人工神经网络（ANNs）更好地识别高度失真、未见过的动态刺激？
• RQ3 SNN中的突触级短期记忆是否相较于RNN和LSTM的循环记忆具有质的计算优势？
• RQ4 尽管训练数据极少且无监督，一个生物可实现的事件驱动SNN是否能超越反向传播训练的ANNs在视觉识别任务中的表现？

主要发现

• 本文从数学上证明，STP可在具有连续随机变换的环境中实现贝叶斯最优推断。
• 采用ST-STDP的SNN成功识别了此前未见过的、高度失真的动态刺激（如旋转人脸的正面视图），即使从未在该视角上进行过训练。
• 该SNN在相同动态视觉识别任务中表现优于使用监督反向传播训练的深度神经网络。
• SNN的性能优势源于其突触特异的短期记忆机制，该机制可独立于每个突触保持近期特征表示，而RNN和LSTM依赖于神经元级的循环记忆。
• 由于突触增强的时间常数较短，SNN在噪声帧上仍保持高准确率，同时在遮挡帧上也表现出色，整体优于ANNs。
• 结果表明，STP不仅是节能机制，更是生物智能与类脑智能计算优势的根本组成部分。