[論文レビュー] Explanatory models in neuroscience: Part 2 -- constraint-based intelligibility

Rosa Cao, Daniel Yamins|arXiv (Cornell University)|Apr 3, 2021

Neural dynamics and brain function参考文献 28被引用数 25

ひとこと要約

本論は、神経科学における理解性は行動と因果的に責任ある要因との依存関係を理解することから生じると主張し、トップダウンの制約（進化/発生）とボトムアップの機構の両方を強調し、目標志向の階層的CNNが脳機能を解明することを示す。

ABSTRACT

Computational modeling plays an increasingly important role in neuroscience, highlighting the philosophical question of how computational models explain. In the context of neural network models for neuroscience, concerns have been raised about model intelligibility, and how they relate (if at all) to what is found in the brain. We claim that what makes a system intelligible is an understanding of the dependencies between its behavior and the factors that are causally responsible for that behavior. In biological systems, many of these dependencies are naturally "top-down": ethological imperatives interact with evolutionary and developmental constraints under natural selection. We describe how the optimization techniques used to construct NN models capture some key aspects of these dependencies, and thus help explain why brain systems are as they are -- because when a challenging ecologically-relevant goal is shared by a NN and the brain, it places tight constraints on the possible mechanisms exhibited in both kinds of systems. By combining two familiar modes of explanation -- one based on bottom-up mechanism (whose relation to neural network models we address in a companion paper) and the other on top-down constraints, these models illuminate brain function.

研究の動機と目的

• システムの理解性を特徴づける依存関係を、行動と因果要因との間の依存関係を詳述することを通じて説明する（トップダウンの制約を含む）。
• ニューラルネットワークモデルの最適化が脳機能を形作る依存関係をどのように捉えるかを実証する。
• 目標駆動型HCNNが単なる曲線フィットを超える説明力を提供することを示す。
• ボトムアップの機構とトップダウンの制約を組み合わせることで、より良い脳モデルと予測が得られることを主張する。

提案手法

• 理解性を、行動と責任ある因子との依存関係としての概念として論じる。
• ボトムアップの機械的説明と、進化と発生から来るトップダウンの機能的制約を対比する。
• 制約ベースの理解性を説明するために、Olshausen and Fieldおよびsparse-autoencoderの研究を用いる。
• エソロジカルに妥当なタスクのために最適化された目標指向型HCNNが腹側視覚経路をモデル化する方法を説明する。
• HCNNが訓練時に直接的な神経データを用いずにV1、V4、IT全体の神経データを予測することを主張する。

実験結果

リサーチクエスチョン

• RQ1 トップダウンの制約（進化/発生）が神経系の理解性にどのように寄与するのか？
• RQ2 生態学的に関連するタスクのために最適化された目標駆動型HCNNは、訓練時に神経データを用いずに腹側視覚領域の神経応答を説明できるのか？
• RQ3 メカニズムと制約ベースの説明を組み合わせることは、脳機能の説明力にどのような価値をもたらすのか？

主な発見

• 視覚タスクに最適化されたHCNNは、訓練時に神経データを用いなくても、複数の腹側ストリーム領域の神経応答をかなり良く予測する。
• 機能的目標からのトップダウンの制約は、上流の神経表現を形作ることができ、単純な曲線適合モデルよりも脳データと整合性が高い。
• 理解性は、機構と行動との依存関係を、進化と発生的制約を含めて検討することで生じる。
• 脳とHCNNアーキテクチャの共通の目標の下での収束は、生物学的および人工的システムの両方で特定の特徴が頑健である理由を浮き彫りにする。