[論文レビュー] How can deep learning advance computational modeling of sensory information processing?

Jessica A. F. Thompson, Yoshua Bengio+2 more|arXiv (Cornell University)|Sep 25, 2018

Neural dynamics and brain function参考文献 26被引用数 13

ひとこと要約

この論文は、深層ニューラルネットワーク（DNNs）が、認知的レベルの理論と神経的実装の間の溝を埋める、より生物学的に妥当でデータ駆動の表現を可能にするため、感覚情報処理の計算モデル化を顕著に前進させると主張している。DNNsと神経画像法（例：表現類似性分析（RSA）や符号化モデル）を統合することで、著者たちは、感覚処理経路全体にわたる神経表現の形式と内容に関する、より強く解釈可能な結論が得られることを示している。

ABSTRACT

Deep learning, computational neuroscience, and cognitive science have overlapping goals related to understanding intelligence such that perception and behaviour can be simulated in computational systems. In neuroimaging, machine learning methods have been used to test computational models of sensory information processing. Recently, these model comparison techniques have been used to evaluate deep neural networks (DNNs) as models of sensory information processing. However, the interpretation of such model evaluations is muddied by imprecise statistical conclusions. Here, we make explicit the types of conclusions that can be drawn from these existing model comparison techniques and how these conclusions change when the model in question is a DNN. We discuss how DNNs are amenable to new model comparison techniques that allow for stronger conclusions to be made about the computational mechanisms underlying sensory information processing.

研究の動機と目的

• 神経画像法におけるモデル比較技法から得られる結論の種類を明確にすること、特に深層ニューラルネットワーク（DNNs）を用いる場合に限る。
• 多変量かつ分散型の神経表現を捉えることが難しい伝統的手法（例：MVPAや符号化モデル）の限界を解決すること。
• DNNsを、データから複雑で階層的な表現を学習できる、より生物学的に妥当なモデルとして提唱すること。
• DNNsと脳活動を共通の表現空間に統合することで、モデルと神経表現の直接比較を可能にする。
• DNNsを用いて認知神経科学における「内側から外へ」の手法を発展させ、計算理論と神経的実装の両者を制約し、情報化すること。

提案手法

• 表現類似性分析（RSA）を用いて、脳活動の多変量パターンと計算モデルのそれとを比較し、異種間や異モodal間の比較を可能にする。
• 刺激特徴から神経活動を予測する符号化モデルを用い、逆方向推定を可能にする拡張も実施する。
• DNNsと神経画像データの直接統合を、両者を共通の表現空間に投影することで実現し、処理段階全体にわたる評価を可能にする。
• 関数的または構造的MRIデータから脳グラフを定義するグラフ理論的手法を適用し、DNNアーキテクチャと脳領域を一致させるテンプレートとして利用する。
• DNNsの階層的・層間構造を活用し、層を独立したモデルとして扱うのではなく、全体の感覚処理経路をモデル化する。
• パターン成分モデリング（PCM）を用いて、表現相違行列（DSM）の成分を分析し、モデルと神経表現のより細分化された比較を可能にする。

実験結果

リサーチクエスチョン

• RQ1 評価対象のモデルが深層ニューラルネットワーク（DNN）である場合、情報に基づく神経画像法から信頼性を持って得られる結論の種類は何か？
• RQ2 DNNsは、従来の線形モデルに比べて、感覚処理における神経表現の形式と内容をどのように改善して捉えられるか？
• RQ3 DNNsは、神経生物学的レベルと認知的レベルの分析粒度の不一致をどのように埋め合わせるために利用できるか？
• RQ4 DNNsは、特定の脳領域やネットワークと一致させることで、人工的および生物学的システム間の表現構造を直接比較可能にできるか？
• RQ5 DNNsの階層的構造は、孤立した処理段階ではなく、全体の感覚処理経路をモデル化するためにどのように活用できるか？

主な発見

• DNNsは、感覚入力の統計的不変性をよりよく反映する多変量かつ分散型の表現を学習できるため、従来の線形モデルに比べて、より強力なモデル比較能力を提供する。
• DNNsの階層的アーキテクチャにより、処理段階全体にわたる表現変換の包括的評価が可能になり、より包括的な評価が可能になる。
• DNNsは、学習された特徴を可視化、説明可能化、クラスタリングすることで意味のある機能的単位を明らかにできるため、線形モデルに比べて後処理の解釈性に優れる。
• 共通の表現空間を通じたDNNsと神経画像データの直接統合により、表現内容および形式の両方に対するより強固な比較が可能になる。
• 機能的または構造的MRIから導出されるグラフベースの脳テンプレートを用いることで、DNNアーキテクチャを特定の脳領域に一致させることができ、ターゲットを絞ったモデル比較が可能になる。
• DNNsは、ネットワークの挙動と測定された神経応答との類似性によって制約されたデータ駆動型の方法で、候補となる神経表現を発見でき、認知神経科学における「内側から外へ」の手法を前進させる。