[论文解读] Explanatory models in neuroscience: Part 2 -- constraint-based intelligibility

Rosa Cao, Daniel Yamins|arXiv (Cornell University)|Apr 3, 2021

Neural dynamics and brain function参考文献 28被引用 25

一句话总结

本文认为神经科学中的可理解性来自于理解行为与因果负责因素之间的依赖关系，强调自上而下的约束（进化/发育）与自下而上的机制并重，并展示以目标驱动的分层卷积神经网络如何阐明大脑功能。

ABSTRACT

Computational modeling plays an increasingly important role in neuroscience, highlighting the philosophical question of how computational models explain. In the context of neural network models for neuroscience, concerns have been raised about model intelligibility, and how they relate (if at all) to what is found in the brain. We claim that what makes a system intelligible is an understanding of the dependencies between its behavior and the factors that are causally responsible for that behavior. In biological systems, many of these dependencies are naturally "top-down": ethological imperatives interact with evolutionary and developmental constraints under natural selection. We describe how the optimization techniques used to construct NN models capture some key aspects of these dependencies, and thus help explain why brain systems are as they are -- because when a challenging ecologically-relevant goal is shared by a NN and the brain, it places tight constraints on the possible mechanisms exhibited in both kinds of systems. By combining two familiar modes of explanation -- one based on bottom-up mechanism (whose relation to neural network models we address in a companion paper) and the other on top-down constraints, these models illuminate brain function.

研究动机与目标

• 通过详细阐述行为与因果因素之间的依赖关系（包括自上而下的约束）来阐明一个系统为何具有可理解性。
• 展示神经网络模型的优化如何捕捉塑造大脑功能的依赖关系。
• 表明以目标驱动的HCNNs在解释力上超越简单的曲线拟合。
• 主张将自下而上的机制与自上而下的约束结合起来能够产生更好的脑模型与预测。

提出的方法

• 讨论将可理解性视为行为与负责因素之间依赖关系的概念。
• 将自下而上的机械解释与来自进化和发育的自上而下功能性约束进行对比。
• 使用Olshausen与Field及稀疏自编码器的研究来说明基于约束的可理解性。
• 解释以目标驱动的HCNNs如何针对与物种行为相关的可接受任务进行优化，以建模腹侧视觉通路。
• 主张HCNNs在V1、V4和IT等区域预测神经数据，训练时不需要直接的神经数据。

实验结果

研究问题

• RQ1 自上而下的约束（进化/发育）如何促成神经系统的可理解性？
• RQ2 针对生态学相关任务进行优化的目标驱动HCNNs是否能够在训练阶段不使用神经数据的情况下解释腹侧视觉区域的神经反应？
• RQ3 将自下而上的机制与基于约束的解释结合对大脑功能的解释价值为何？

主要发现

• 为视觉任务优化的HCNNs在多个腹侧通路区域的神经反应预测得相当好，即使训练中不含神经数据。
• 来自功能目标的自上而下约束能够塑造上游神经表征，其与脑数据的对齐优于简单曲线拟合模型。
• 当考察机制与行为之间的依赖关系时，包括进化与发育约束，便产生了可理解性。
• 在共享目标下，大脑与HCNN架构的趋同强调了为什么某些特征在生物系统和人工系统中都具有鲁棒性。