[论文解读] Deciphering subsampled data: adaptive compressive sampling as a principle of brain communication

Guy Isely, Christopher J. Hillar+1 more|arXiv (Cornell University)|Nov 1, 2010

Neural dynamics and brain function参考文献 15被引用 18

一句话总结

本文提出自适应压缩采样（ACS），一种新颖的无监督学习算法，使神经元群体能够从子采样的感觉输入中形成一致且稀疏的表征——模拟轴突纤维瓶颈处的脑通信。ACS 在未知采样或稀疏基底的情况下学习有意义的信号表征，重建质量与压缩采样相当，且在堆叠层及过完备/欠完备设置中均表现出鲁棒性。

ABSTRACT

A new algorithm is proposed for a) unsupervised learning of sparse representations from subsampled measurements and b) estimating the parameters required for linearly reconstructing signals from the sparse codes. We verify that the new algorithm performs efficient data compression on par with the recent method of compressive sampling. Further, we demonstrate that the algorithm performs robustly when stacked in several stages or when applied in undercomplete or overcomplete situations. The new algorithm can explain how neural populations in the brain that receive subsampled input through fiber bottlenecks are able to form coherent response properties.

研究动机与目标

• 解决神经元群体如何解释通过随机连接、子采样原始输入的轴突纤维投射所传输的信号。
• 开发一种无监督学习算法，从未完整、压缩的数据中形成一致且稀疏的表征。
• 解释尽管输入被子采样，目标脑区中仍能涌现出类似简单细胞的感受野的原因。
• 证明脑区间的功能性通信无需依赖数据重建。
• 探讨ACS对神经编码的影响，包括对局部与长程投射中稀疏性的预测。

提出的方法

• ACS 在子采样测量上使用无监督学习，无需原始信号或采样矩阵信息，即可发现稀疏表征。
• 该算法通过迭代优化过程，直接从压缩数据中学习字典和稀疏编码，最小化Lasso型目标函数。
• 通过使用完整信号探测训练后的ACS电路，估计重建矩阵（RM），从而实现从学习到的表征中恢复信号。
• 该方法可堆叠：信号可在多个阶段中被压缩并重新编码，同时保持类似Gabor的感受野结构。
• ACS 在过完备和欠完备设置下均有效运行，表现出对信号与编码维度变化的鲁棒性。
• 理论分析证明，收敛后，ACS 生成的表征可通过RM矩阵实现精确的信号重建。

实验结果

研究问题

• RQ1 当原始信号和采样方案未知时，能否从子采样数据中学习到有意义的稀疏表征？
• RQ2 当神经元群体仅通过随机、基因引导的轴突投射接收压缩、欠采样的输入时，如何形成一致的感受野？
• RQ3 该学习机制对不同大小、连接模式各异的脑区间通信有何影响？
• RQ4 所提出的算法能否在无需完整信号访问的前提下，实现与传统压缩采样相当的压缩与重建性能？
• RQ5 神经活动的稀疏性在局部与长程投射神经元之间如何变化？该模型能否对此进行预测？

主要发现

• 如图3所示的定量比较所示，ACS 的重建质量与传统压缩采样相当。
• ACS 学习到的重建矩阵（RM）生成了平滑、类似Gabor的感受野，类似于视觉皮层中的简单细胞，即使在子采样数据上训练亦然。
• 如图5所示，ACS 在多个处理阶段堆叠时表现出鲁棒性，保持了跨层的有意义信号结构。
• ACS 在过完备和欠完备设置下均表现良好，展现出对编码维度变化的灵活性。
• 该算法无需访问原始信号或稀疏基底，即可学习稀疏表征，适用于生物上合理的神经计算。
• 该模型预测，具有长程轴突投射的神经元放电稀疏性低于局部投射神经元，这是一个可检验的神经生物学假说。