[论文解读] If deep learning is the answer, then what is the question?

Andrew Saxe, Stephanie Nelli+1 more|arXiv (Cornell University)|Apr 16, 2020

Domain Adaptation and Few-Shot Learning参考文献 133被引用 8

一句话总结

本文提出了一项面向深度学习时代系统神经科学的路线图，主张深度神经网络可作为生物大脑计算的可检验模型。通过在行为、学习动态和神经表征方面对比人工系统与生物系统，作者主张将深度学习不仅视为黑箱，更应作为生成和检验关于感知、认知及神经编码的假设的框架。

ABSTRACT

Neuroscience research is undergoing a minor revolution. Recent advances in machine learning and artificial intelligence (AI) research have opened up new ways of thinking about neural computation. Many researchers are excited by the possibility that deep neural networks may offer theories of perception, cognition and action for biological brains. This perspective has the potential to radically reshape our approach to understanding neural systems, because the computations performed by deep networks are learned from experience, not endowed by the researcher. If so, how can neuroscientists use deep networks to model and understand biological brains? What is the outlook for neuroscientists who seek to characterise computations or neural codes, or who wish to understand perception, attention, memory, and executive functions? In this Perspective, our goal is to offer a roadmap for systems neuroscience research in the age of deep learning. We discuss the conceptual and methodological challenges of comparing behaviour, learning dynamics, and neural representation in artificial and biological systems. We highlight new research questions that have emerged for neuroscience as a direct consequence of recent advances in machine learning.

研究动机与目标

• 指导系统神经科学研究者利用深度学习模型理解生物大脑计算。
• 解决将人工神经网络与生物神经系统进行比较时面临的概念与方法论挑战。
• 识别深度学习融入神经科学后产生的新研究问题。
• 提供一个框架，将深度网络用作感知、注意力、记忆与执行功能的解释性模型。
• 推动在神经科学中严谨、以假设为导向地使用深度学习，而非浅显的类比。

提出的方法

• 提出深度神经网络作为通过经验训练而非手工编码规则的神经计算生物合理模型。
• 强调在三个领域进行对比分析：行为表现、学习动态与神经表征模式。
• 利用深度网络的结构与训练动态，生成关于生物神经系统的可检验预测。
• 强调从神经编码与功能计算的角度解释网络表征的重要性。
• 鼓励网络设计与已知神经解剖学和神经生理学对齐，以提高生物相关性。
• 将深度学习视为生成大脑功能假设的工具，而不仅用于模仿行为。

实验结果

研究问题

• RQ1 深度神经网络在多大程度上可作为生物大脑中感知、认知与行为的模型？
• RQ2 将人工神经网络与生物神经系统进行比较时面临哪些方法论挑战？
• RQ3 深度网络中的学习动态如何增进我们对生物学习与可塑性的理解？
• RQ4 深度网络中的神经表征在哪些方面与生物大脑中的表征相似或相异？
• RQ5 当深度学习被整合进系统神经科学时，会引出哪些新的研究问题？

主要发现

• 在感官任务上训练的深度神经网络能够再现生物行为的关键特征，为感知建模提供了新视角。
• 深度网络中的学习动态——如特征层次的渐进发展——与生物系统中观察到的发育轨迹相吻合。
• 随着网络深度的增加，其神经表征与高级脑区的表征越来越相似。
• 本文指出，直接比较网络与大脑表征需要仔细对齐输入刺激与任务结构。
• 文章警告不应盲目使用预训练网络，而应倡导针对特定任务进行训练，以确保科学有效性。
• 作者总结认为，当以严谨方式应用时，深度学习为系统神经科学提供了一个强大且能生成假设的框架。