[논문 리뷰] Explanatory models in neuroscience: Part 1 -- taking mechanistic abstraction seriously

Rosa Cao, Daniel Yamins|arXiv (Cornell University)|2021. 04. 03.

Neural dynamics and brain function참고 문헌 58인용 수 49

한 줄 요약

이 논문은 특정 신경망 모델이 강화된 3M++ 프레임워크 하에서 뇌 기능의 기계적 설명이 될 수 있다고 주장하며, 실행 가능한 추상화와 유사도 변환을 도입하여 모델을 뇌 메커니즘에 매핑한다.

ABSTRACT

Despite the recent success of neural network models in mimicking animal performance on visual perceptual tasks, critics worry that these models fail to illuminate brain function. We take it that a central approach to explanation in systems neuroscience is that of mechanistic modeling, where understanding the system is taken to require fleshing out the parts, organization, and activities of a system, and how those give rise to behaviors of interest. However, it remains somewhat controversial what it means for a model to describe a mechanism, and whether neural network models qualify as explanatory. We argue that certain kinds of neural network models are actually good examples of mechanistic models, when the right notion of mechanistic mapping is deployed. Building on existing work on model-to-mechanism mapping (3M), we describe criteria delineating such a notion, which we call 3M++. These criteria require us, first, to identify a level of description that is both abstract but detailed enough to be "runnable", and then, to construct model-to-brain mappings using the same principles as those employed for brain-to-brain mapping across individuals. Perhaps surprisingly, the abstractions required are those already in use in experimental neuroscience, and are of the kind deployed in the construction of more familiar computational models, just as the principles of inter-brain mappings are very much in the spirit of those already employed in the collection and analysis of data across animals. In a companion paper, we address the relationship between optimization and intelligibility, in the context of functional evolutionary explanations. Taken together, mechanistic interpretations of computational models and the dependencies between form and function illuminated by optimization processes can help us to understand why brain systems are built they way they are.

연구 동기 및 목표

• 계통 신경과학에서 기계적 설명이 무엇으로 간주되는지 명확히 한다.
• 신경망을 수용하는 확장된 Model-Mechanism-Mapping 기준(3M++)을 제안한다.
• 추상화, 실행 가능한 모델, 유사도 변환이 모델-뇌 매핑을 어떻게 지원하는지 설명한다.
• 3M++를 지탱하기 위한 뇌과학의 기본 추상화를 제공한다.

제안 방법

• 기계적 설명 문헌(3M)과 개입주의 인과관계 개념을 검토하고 합성한다.
• Predictively Adequate Runnable Abstraction (PARA)와 Transform Similarity를 3M에 추가하여 3M++를 정의한다.
• 추상화가 목표 현상에 대해 실행 가능하고 인과적으로 충분한 방식으로 작동하는지 형식화한다.
• 계층적 컨볼루션 모델을 뇌 영역에 매핑하는 사례 연구로 복측 시각 경로를 사용한다.
• 추상적 신경망이 생물학적 스파이킹 네트워크 및 LN 유닛과 어떻게 관련되는지 논의한다.

실험 결과

연구 질문

• RQ1 계산 모델로 뇌 기능을 모델링할 때 설명적이라는 것이 무엇을 의미하는가?
• RQ2 추상화 수준을 존중하면서 신경망을 뇌 메커니즘에 어떻게 매핑할 수 있을까?
• RQ3 어떤 기준(3M++)이 모델이 뇌과학에 대해 기계적이고 설명적임을 가장 잘 보장하는가?
• RQ4 추상화가 언제 실행 가능하고 새로운 입력에 대해 예측적이 되는가?
• RQ5 유사도 변환이 개인 간 뇌-모델 매핑을 어떻게 촉진하는가?

주요 결과

• 확장된 3M++ 프레임워크로 평가될 때 신경망은 설명적 모델이 될 수 있다.
• 개별 간 실행 가능한 추상화와 유사성 매핑에 의해 기계적 매핑이 달성될 수 있다.
• 신경과학의 기본 추상들(예: LN units, retinotopy, 계층적 처리)이 HCNNs와 같은 계산 모델 구조와 일치한다.
• DNNs가 경우에 따라 추상적 기계적 설명을 제공하여 모델 성능과 뇌 메커니즘 사이의 다리를 놓을 수 있다.
• 실험 신경과학 추상에 기반한 프레임워크는 오래된 모델과 새로운 모델 모두에 대해 기계적 설명을 평가하는 데 도움을 준다.