[论文解读] Fundamental principles of cortical computation: unsupervised learning with prediction, compression and feedback

Micah Richert, Dimitry Fisher+3 more|arXiv (Cornell University)|Aug 19, 2016

Neural dynamics and brain function参考文献 46被引用 5

一句话总结

本文提出了一种受生物学启发的灵长类视觉皮层模型，通过预测、压缩和反馈机制实现无监督学习。该模型采用具有前向、侧向和循环连接的分层皮层区域，通过预测编码和信息压缩学习可分离的对象表征，实现了最先进的视觉追踪性能和准确的分类结果。

ABSTRACT

There has been great progress in understanding of anatomical and functional microcircuitry of the primate cortex. However, the fundamental principles of cortical computation - the principles that allow the visual cortex to bind retinal spikes into representations of objects, scenes and scenarios - have so far remained elusive. In an attempt to come closer to understanding the fundamental principles of cortical computation, here we present a functional, phenomenological model of the primate visual cortex. The core part of the model describes four hierarchical cortical areas with feedforward, lateral, and recurrent connections. The three main principles implemented in the model are information compression, unsupervised learning by prediction, and use of lateral and top-down context. We show that the model reproduces key aspects of the primate ventral stream of visual processing including Simple and Complex cells in V1, increasingly complicated feature encoding, and increased separability of object representations in higher cortical areas. The model learns representations of the visual environment that allow for accurate classification and state-of-the-art visual tracking performance on novel objects.

研究动机与目标

• 识别皮层计算的基本原理，以阐明视觉皮层如何将视网膜输入整合为连贯的对象与场景表征。
• 解决在缺乏标注数据的情况下，分层皮层回路如何支持无监督学习的理解空白。
• 开发灵长类腹侧流的可运行、现象学层面的模型，复现关键的神经生理学与行为特性。
• 研究预测、压缩与反馈机制如何协同实现鲁棒的视觉表征学习。
• 展示该模型在无需监督预训练的情况下，实现高精度对象分类与视觉追踪的能力。

提出的方法

• 该模型在四个分层皮层区域（V1至更高层级）中实现，包含前向、侧向和循环连接，以模拟皮层微环路结构。
• 采用预测编码原理，即高层区域对低层活动生成预测，通过反馈最小化预测误差。
• 通过将感官输入编码为稀疏、高效的表征，实现信息压缩，从而减少冗余并保留判别性特征。
• 无监督学习通过随时间最小化预测误差来驱动，使网络能够自组织特征检测器，无需标注数据。
• 侧向与自上而下的反馈连接提供上下文调制，增强高层区域的特征选择性与表征可分性。
• 该模型采用基于误差驱动突触可塑性的生物合理学习规则，与体内观察到的皮层动力学一致。

实验结果

研究问题

• RQ1 皮层回路中的无监督学习如何产生分层的、日益复杂的特征表征？
• RQ2 预测、压缩与反馈在实现高效且鲁棒的视觉表征学习中分别发挥何种作用？
• RQ3 基于这些原理的模型能否复现V1中简单细胞与复杂细胞响应等关键神经生理现象？
• RQ4 此类模型在无标注数据条件下，能在多大程度上实现视觉追踪与分类的最先进性能？
• RQ5 侧向与自上而下的连接如何促进高层皮层区域中对象表征的可分性提升？

主要发现

• 该模型成功复现了V1中简单细胞与复杂细胞的响应特性，包括方向选择性与空间频率调谐。
• 随着层级的提升，特征表征变得愈加复杂与选择性，与灵长类腹侧流中观察到的进展一致。
• 高层皮层区域中的对象表征表现出更高的可分性，支持对新对象的准确分类。
• 该模型在新对象上的视觉追踪性能达到最先进水平，展现出对外观变化的鲁棒性。
• 预测、压缩与反馈的整合实现了无需监督的不变表征高效学习。
• 侧向与自上而下的反馈显著提升了表征质量，并减少了特征编码中的歧义。