[論文レビュー] Explanatory models in neuroscience: Part 1 -- taking mechanistic abstraction seriously

Rosa Cao, Daniel Yamins|arXiv (Cornell University)|Apr 3, 2021

Neural dynamics and brain function参考文献 58被引用数 49

ひとこと要約

本論文は、特定のニューラルネットワークモデルが強化された3M++フレームワークの下で脳機能の機械論的説明になり得ることを主張し、 runnable abstraction と similarity transforms を用いてモデルを脳機能の機構へマッピングする実行可能な抽象化と類似変換を導入します。

ABSTRACT

Despite the recent success of neural network models in mimicking animal performance on visual perceptual tasks, critics worry that these models fail to illuminate brain function. We take it that a central approach to explanation in systems neuroscience is that of mechanistic modeling, where understanding the system is taken to require fleshing out the parts, organization, and activities of a system, and how those give rise to behaviors of interest. However, it remains somewhat controversial what it means for a model to describe a mechanism, and whether neural network models qualify as explanatory. We argue that certain kinds of neural network models are actually good examples of mechanistic models, when the right notion of mechanistic mapping is deployed. Building on existing work on model-to-mechanism mapping (3M), we describe criteria delineating such a notion, which we call 3M++. These criteria require us, first, to identify a level of description that is both abstract but detailed enough to be "runnable", and then, to construct model-to-brain mappings using the same principles as those employed for brain-to-brain mapping across individuals. Perhaps surprisingly, the abstractions required are those already in use in experimental neuroscience, and are of the kind deployed in the construction of more familiar computational models, just as the principles of inter-brain mappings are very much in the spirit of those already employed in the collection and analysis of data across animals. In a companion paper, we address the relationship between optimization and intelligibility, in the context of functional evolutionary explanations. Taken together, mechanistic interpretations of computational models and the dependencies between form and function illuminated by optimization processes can help us to understand why brain systems are built they way they are.

研究の動機と目的

• システム神経科学における機械論的説明として何が数えるのかを明確にする。
• ニューラルネットワークを組み込む拡張された Model-Mechanism-Mapping 基準（3M++）を提案する。
• 抽象化、実行可能なモデル、および類似変換がモデルと脳のマッピングをどう支えるかを説明する。
• 3M++を地盤づけるための神経科学からの基礎的な抽象を提供する。

提案手法

• 機械論的説明の文献（3M）と介入因果関係の概念をレビューし、統合する。
• Predictively Adequate Runnable Abstraction (PARA)とTransform Similarityを3Mに加えて3M++を定義する。
• 抽象が実行可能で対象現象に対して因果的に十分であるとどう形式化するか。
• 腹側視覚経路を脳領域への階層的畳み込みモデルのマッピング事例として用いる。
• 抽象的なニューラルネットワークが生物学的スパイキングネットワークとLNユニットにどう関連するかを論じる。

実験結果

リサーチクエスチョン

• RQ1 計算モデルで脳機能をモデル化する際、何が説明的であるとみなされるか？
• RQ2 抽象レベルを尊重しつつ、ニューラルネットワークを脳機構にマッピングするにはどうすればよいか？
• RQ3 どの基準（3M++）がモデルを機械論的かつ神経科学の説明可能性に最も適合させるか？
• RQ4 抽象化はいつ実行可能で新しい入力に対して予測的になるのか？
• RQ5 類似変換は個体間の脳とモデルのマッピングをどう促進するのか？

主な発見

• ニューラルネットワークは拡張された3M++フレームワークで評価されると説明可能なモデルになり得る。
• 実行可能な抽象化と個体間の類似マッピングによって機械論的なマッピングが実現し得る。
• 神経科学の基礎的な抽象（例：LNユニット、視野保持、階層的処理）はHCNNのような計算モデル構造と整合する。
• 深層ニューラルネットワークは、場合によってはモデルの性能と脳機構を結ぶ抽象的な機械論的説明を提供できる。
• 実験的神経科学の抽象に根ざした枠組みは、古いモデルと新しいモデルの機械論的説明の評価を両立させる。