[论文解读] Sampling-based probabilistic inference emerges from learning in neural circuits with a cost on reliability

Laurence Aitchison, Guillaume Hennequin+1 more|arXiv (Cornell University)|Jul 24, 2018

Neural dynamics and brain function参考文献 38被引用 6

一句话总结

该论文表明，当神经网络在神经可靠性上施加一种生物启发的代价（代表精确放电的代谢成本）进行训练时，会自然地发展出基于采样的概率推理。通过在重建精度与能量成本之间取得平衡，网络演化出的响应可变性会从贝叶斯后验分布中采样，即使学习任务本身是非概率性的。这种涌现行为与感官皮层中观察到的神经动力学相一致，并与自编码器中的变分推断存在理论关联。

ABSTRACT

Neural responses in the cortex change over time both systematically, due to ongoing plasticity and learning, and seemingly randomly, due to various sources of noise and variability. Most previous work considered each of these processes, learning and variability, in isolation -- here we study neural networks exhibiting both and show that their interaction leads to the emergence of powerful computational properties. We trained neural networks on classical unsupervised learning tasks, in which the objective was to represent their inputs in an efficient, easily decodable form, with an additional cost for neural reliability which we derived from basic biophysical considerations. This cost on reliability introduced a tradeoff between energetically cheap but inaccurate representations and energetically costly but accurate ones. Despite the learning tasks being non-probabilistic, the networks solved this tradeoff by developing a probabilistic representation: neural variability represented samples from statistically appropriate posterior distributions that would result from performing probabilistic inference over their inputs. We provide an analytical understanding of this result by revealing a connection between the cost of reliability, and the objective for a state-of-the-art Bayesian inference strategy: variational autoencoders. We show that the same cost leads to the emergence of increasingly accurate probabilistic representations as networks become more complex, from single-layer feed-forward, through multi-layer feed-forward, to recurrent architectures. Our results provide insights into why neural responses in sensory areas show signatures of sampling-based probabilistic representations, and may inform future deep learning algorithms and their implementation in stochastic low-precision computing systems.

研究动机与目标

• 为了理解为何神经可变性在对性能产生负面影响的情况下仍持续存在，尤其是在突触可塑性持续进行的背景下。
• 为了研究学习系统中神经可靠性（高代谢成本）与性能精度之间的权衡。
• 为了确定对可靠性的生物基础代价是否能导致神经回路中概率计算的涌现。
• 为了探索这种代价是否会在非概率学习任务中诱导出统计上适当的后验分布采样。
• 为了建立该生物启发目标与现代机器学习中使用的变分自由能原理之间的正式联系。

提出的方法

• 在无监督学习任务（如稀疏编码、自编码）上训练神经网络，增加一个惩罚高可靠性（低噪声）的代价项。
• 使用具有神经元特异性噪声振幅（σi）的随机动力学来建模神经可变性，其中噪声由反映代谢成本的参数缩放。
• 从生物物理原理推导可靠性代价，特别是维持精确、低噪声动作电位响应所需的能量。
• 使用带有漂移（Π）和噪声（Q）矩阵的动力系统公式来建模神经种群动力学，其中Π包含对称部分（Q）和反对称部分（S）。
• 通过使用Frobenius范数对ΠΣ（动力矩阵 × 静态协方差）施加正则化，以防止反对称部分S的无界增长。
• 通过时间上经验均值估计的协方差分析采样速度，使用trace(Σ⁻¹/²Cov[µ]Σ⁻¹/²)作为采样均方误差的代理。

实验结果

研究问题

• RQ1 一个生物合理的神经可靠性代价是否能导致神经网络中概率推理的涌现？
• RQ2 经过训练的网络中的神经可变性是否对应于隐藏原因的贝叶斯后验分布的样本？
• RQ3 能量成本与表征精度之间的权衡如何塑造神经响应可变性的结构？
• RQ4 所推导的可靠性代价与变分自编码器中使用的变分自由能目标之间是否存在正式联系？
• RQ5 该机制是否能在包括深度网络和循环网络在内的多种网络架构中泛化？

主要发现

• 在可靠性代价下训练的神经网络发展出的响应可变性，会从输入的内部概率模型的后验分布中采样，即使学习任务本身是非概率性的。
• 精度与可靠性之间的最优平衡导致响应分布在统计上等价于通过采样实现的近似贝叶斯推理所生成的分布。
• 所推导的目标函数构成变分自由能的上界，确保最小化该函数可提高网络响应与真实后验分布之间的相似性。
• 在深度和循环架构中，该机制能够实现对复杂、相关后验分布的采样，而前馈网络无法表示此类分布。
• 采样速度与动力矩阵结构定量相关，当反对称部分S被调节以平衡噪声与相关性时，可实现最优采样。
• 该方法即使在具有时间相关性的循环网络中也保持鲁棒，且可通过调节实现快速收敛，而不会降低推理精度或自编码器性能。