[논문 리뷰] Explanatory models in neuroscience: Part 2 -- constraint-based intelligibility

Rosa Cao, Daniel Yamins|arXiv (Cornell University)|2021. 04. 03.

Neural dynamics and brain function참고 문헌 28인용 수 25

한 줄 요약

이 논문은 신경과학에서의 이해 가능성이 행동과 원인 책임 요인 간의 의존성 이해에서 비롯된다고 주장하며, 하향식 제약(진화적/발달적)과 함께 하향식 메커니즘을 강조하고, 목표 주도형 계층적 CNN이 뇌 기능을 밝힌다고 보인다.

ABSTRACT

Computational modeling plays an increasingly important role in neuroscience, highlighting the philosophical question of how computational models explain. In the context of neural network models for neuroscience, concerns have been raised about model intelligibility, and how they relate (if at all) to what is found in the brain. We claim that what makes a system intelligible is an understanding of the dependencies between its behavior and the factors that are causally responsible for that behavior. In biological systems, many of these dependencies are naturally "top-down": ethological imperatives interact with evolutionary and developmental constraints under natural selection. We describe how the optimization techniques used to construct NN models capture some key aspects of these dependencies, and thus help explain why brain systems are as they are -- because when a challenging ecologically-relevant goal is shared by a NN and the brain, it places tight constraints on the possible mechanisms exhibited in both kinds of systems. By combining two familiar modes of explanation -- one based on bottom-up mechanism (whose relation to neural network models we address in a companion paper) and the other on top-down constraints, these models illuminate brain function.

연구 동기 및 목표

• 행동과 인과 요인 간의 의존성을 상세히 설명하여 시스템의 이해 가능성을 규정하는 요인을 제시한다, 하향식 제약을 포함하여.
• 신경망 모델의 최적화가 뇌 기능을 형성하는 의존성을 어떻게 포착하는지 시연한다.
• 목표 주도 HCNN이 단순 곡선 맞춤을 넘어 설명력을 제공한다는 것을 보여준다.
• 하향식 제약과 함께 상향식 메커니즘을 결합하면 더 우수한 뇌 모델과 예측을 얻을 수 있다고 주장한다.

제안 방법

• 행동과 책임 있는 요인 간의 의존성으로서의 이해 가능성의 개념을 논의한다.
• 진화와 발달로부터의 하향식 기능 제약과 상향식 기계적 설명을 대조한다.
• 제한 기반 이해 가능성을 설명하기 위해 Olshausen and Field 및 희소 자동인코더 연구를 활용한다.
• 목표 주도 HCNN이 생태학적으로 타당한 과제에 맞춰 어떻게 최적화되어 복측 시각 경로를 모델링하는지 설명한다.
• HCNN이 V1, V4, IT 전반에 걸친 신경 데이터를 훈련 중에 직접적으로 사용하지 않고도 예측한다는 것을 주장한다.

실험 결과

연구 질문

• RQ1 하향식 제약(진화적/발달적)이 신경 시스템의 이해 가능성에 어떻게 기여하는가?
• RQ2 생태학적으로 관련된 과제로 최적화된 목표 주도형 HCNN이 훈련 중 신경 데이터를 사용하지 않고도 복측 시각 영역의 신경 반응을 설명할 수 있는가?
• RQ3 하향식 제약 기반 설명과 상향식 메커니즘을 결합하는 것이 뇌 기능에 대한 설명력에 어떤 가치를 제공하는가?

주요 결과

• 비전 과제에 최적화된 HCNN이 훈련 시 신경 데이터를 사용하지 않아도 여러 복측 스트림 영역에서 신경 반응을 상당히 잘 예측한다.
• 기능적 목표에서의 하향식 제약은 상류 뇌 표현을 형성할 수 있어 단순 곡선 적합 모델보다 뇌 데이터와 더 잘 일치한다.
• 해당 메커니즘과 행동 간의 의존성, 진화적 및 발달적 제약을 포함하여 이를 조사할 때 이해 가능성이 생겨난다.
• 공유된 목표 하에서 뇌와 HCNN 아키텍처의 수렴은 특정 특징들이 생물학적 시스템과 인공 시스템 모두에서 왜 강건한지에 대한 이유를 강조한다.