[论文解读] A correlation game for unsupervised learning yields computational interpretations of Hebbian excitation, anti-Hebbian inhibition, and synapse elimination

H. Sebastian Seung, Jonathan Zung|arXiv (Cornell University)|Apr 3, 2017

Neural dynamics and brain function参考文献 27被引用 14

一句话总结

本文将无监督学习形式化为非线性神经网络中赫布可塑性兴奋与抗赫布抑制之间的零和相关性博弈，其中兴奋最大化输入-输出相关性，而抑制最小化输出-输出相关性。通过拉格朗日对偶公式推导出的突触竞争与消除机制，使网络能够学习到类似物体组成部分的稀疏特征，并在MNIST数据上获得了理论与实证验证。

ABSTRACT

Much has been learned about plasticity of biological synapses from empirical studies. Hebbian plasticity is driven by correlated activity of presynaptic and postsynaptic neurons. Synapses that converge onto the same neuron often behave as if they compete for a fixed resource; some survive the competition while others are eliminated. To provide computational interpretations of these aspects of synaptic plasticity, we formulate unsupervised learning as a zero-sum game between Hebbian excitation and anti-Hebbian inhibition in a neural network model. The game formalizes the intuition that Hebbian excitation tries to maximize correlations of neurons with their inputs, while anti-Hebbian inhibition tries to decorrelate neurons from each other. We further include a model of synaptic competition, which enables a neuron to eliminate all connections except those from its most strongly correlated inputs. Through empirical studies, we show that this facilitates the learning of sensory features that resemble parts of objects.

研究动机与目标

• 为非线性神经网络中的赫布可塑性、抗赫布抑制以及突触竞争/消除提供计算解释。
• 将无监督学习形式化为一个约束优化问题，以最大化输出-输入相关性，同时最小化输出-输出相关性。
• 展示突触竞争与消除如何导致稀疏连接，从而促进学习类似物体部件的特征。
• 从博弈论框架出发，利用拉格朗日乘子作为抑制权重，推导出生物上合理的可塑性规则。
• 证明突触消除使网络能够学习到类似物体部件的特征，该结论在MNIST数据集上得到验证。

提出的方法

• 将无监督学习形式化为约束优化问题：在输出-输出相关性受上界约束的条件下，最大化输出-输入相关性。
• 利用拉格朗日对偶性推导出博弈论形式化，使赫布兴奋与抗赫布抑制作为零和博弈中的对立玩家。
• 实现一个使用修正线性单元（ReLU）的非线性神经网络，其突触权重通过源自对偶公式的赫布与抗赫布规则进行更新。
• 引入一种突触竞争机制，使汇聚到单个神经元的兴奋性突触受到资源约束，从而实现弱连接的消除。
• 定义一个惩罚函数，强制每个神经元的突触权重之和为固定值，当拉格朗日乘子较大时，可导致稀疏连接。
• 通过理论分析表明，幸存的突触对应于最相关的输入，等价于具有二值权重的稀疏主成分分析解。

实验结果

研究问题

• RQ1 如何在单一计算框架中正式统一赫布兴奋与抗赫布抑制，以实现无监督学习？
• RQ2 突触竞争与消除在塑造神经表征中稀疏且类似部件的特征方面，其计算角色是什么？
• RQ3 相关性博弈形式化如何解释神经网络中稀疏连接的出现？
• RQ4 相关性最大化的拉格朗日对偶公式能否产生适用于前馈与侧向连接的生物上合理的可塑性规则？
• RQ5 与密集连接相比，突触消除在多大程度上提升了对物体部件特征的学习能力？

主要发现

• 相关性博弈框架为无监督学习提供了博弈论解释，其中赫布兴奋与抗赫布抑制作为零和博弈中的对立玩家发挥作用。
• 拉格朗日对偶公式导出的神经网络具有自然涌现的赫布与抗赫布可塑性规则，这些规则源于优化原理。
• 通过固定权重和约束强制实施的突触竞争与消除，导致稀疏连接，仅最相关的输入得以保留。
• 在MNIST上的实证结果表明，突触消除使网络能够学习到类似物体部件的特征，而密集网络则学习到整体对象特征。
• 理论分析证实，幸存的突触对应于前k个最相关的输入，等价于具有二值权重的稀疏主成分分析解。
• 侧向抑制的强度随权重向量相似性的增加而增强，表明网络会主动对具有相似输入偏好神经元进行去相关。