[論文レビュー] Toward an Integration of Deep Learning and Neuroscience

Adam Marblestone, Greg Wayne+1 more|arXiv (Cornell University)|Jun 1, 2016

Neural dynamics and brain function参考文献 571被引用数 683

ひとこと要約

本稿では、脳が多様で発達的に制御されたコスト関数を最適化する専門化された事前構造化された神経回路によって構成される異種的・多要素的システムとして機能すると提案している。これは、深層学習の原則と神経科学を統合する包括的な枠組みを提供する。学習の効率性は一様な最適化から生じるのではなく、相互に作用するコスト関数と注釈、記憶、ルーティングメカニズムなどの構造的システムから生じると主張する。

ABSTRACT

Neuroscience has focused on the detailed implementation of computation, studying neural codes, dynamics and circuits. In machine learning, however, artificial neural networks tend to eschew precisely designed codes, dynamics or circuits in favor of brute force optimization of a cost function, often using simple and relatively uniform initial architectures. Two recent developments have emerged within machine learning that create an opportunity to connect these seemingly divergent perspectives. First, structured architectures are used, including dedicated systems for attention, recursion and various forms of short- and long-term memory storage. Second, cost functions and training procedures have become more complex and are varied across layers and over time. Here we think about the brain in terms of these ideas. We hypothesize that (1) the brain optimizes cost functions, (2) the cost functions are diverse and differ across brain locations and over development, and (3) optimization operates within a pre-structured architecture matched to the computational problems posed by behavior. In support of these hypotheses, we argue that a range of implementations of credit assignment through multiple layers of neurons are compatible with our current knowledge of neural circuitry, and that the brain's specialized systems can be interpreted as enabling efficient optimization for specific problem classes. Such a heterogeneously optimized system, enabled by a series of interacting cost functions, serves to make learning data-efficient and precisely targeted to the needs of the organism. We suggest directions by which neuroscience could seek to refine and test these hypotheses.

研究の動機と目的

• 深層学習の最適化志向の手法と神経科学の神経実装への注目を統合する包括的枠組みを提案すること。
• 脳が単一のグローバルな目的ではなく、複数の異種的コスト関数を最適化しているかどうかを調査すること。
• 記憶、注釈、ルーティングなどの専門化された神経アーキテクチャが生物学的システムにおける効率的かつデータ効率の良い学習をどのように可能にするかを探索すること。
• コスト関数が発達に伴ってどのように変化し、脳領域ごとにどのように変動するかを検討することにより、多様な認知機能を支援する仕組みを明らかにすること。
• 脳機能に関する検証可能な仮説を提示することで、神経科学と機械学習の間のクロスディシプリナリーな対話を促進すること。

提案手法

• 脳が生物学的に妥当な勾配近似メカニズムを用いて、深層学習と同様に内部コスト関数を最適化すると提案する。
• コスト関数が脳領域や発達段階全体で一様ではなく、多様で文脈特異的であると提唱する。
• コンテンツアドレスラブルメモリ、作業記憶バッファ、注釈メカニズムなどの専門化された神経系を、効率的最適化を可能にするアーキテクチャ的土台として同定する。
• グローバル最適化を近似する局所的学習ルール（例：生物学的に妥当な誤差逆伝播の変種）によってコスト関数が実装され得ると示唆する。
• メタレベルの学習メカニズムが、異なるコスト関数やシステムの活性化と相互作用を制御すると提案する。
• 深層学習の要素（例：カプセル、注釈、メモリネットワーク）と既知の脳構造との類似性を用いて、検証可能な神経実装を示唆する。

実験結果

リサーチクエスチョン

• RQ1 異なる脳領域は異なるコスト関数を最適化しているのか？ そして、発達に伴ってその関数はどのように変化するのか？
• RQ2 記憶、注釈などの専門化された神経アーキテクチャは、脳における多様なコスト関数の効率的最適化をどのように可能にするのか？
• RQ3 多層ニューラルシステムにおいて勾配降下を近似する生物学的メカニズムは何か？ 人工的バックプロパゲーションとはどのように異なるのか？
• RQ4 脳内でのコスト関数は、明示的に計算されているのか、それとも局所的学習ルールに暗黙的に埋め込まれているのか？
• RQ5 脳はメタラーニングをどのように活用して、与えられたタスクに応じてどのコスト関数やシステムを起動・制御するのか？

主な発見

• 脳は、単一のグローバルな目的ではなく、脳領域や発達的時期に応じて変化する複数の異種的コスト関数を最適化している可能性が高い。
• コンテンツアドレスラブルメモリ、作業記憶バッファ、注釈メカニズムなどの専門化された神経アーキテクチャは、計算と情報の流れを構造化することで、効率的最適化を可能にする。
• フィードバックアライメントや局所的ルールを用いた誤差逆伝播などの生物学的に妥当な勾配降下の近似が、深層ニューラル回路における学習の背後にある可能性がある。
• 脳内のコスト関数は進化的圧力と発達的プロセスによって形作られ、行動的に関連のある表現に向けた教師あり・教師なし学習を導く。
• 複数のコスト関数と専門化されたシステムの相互作用により、データ効率的で的を射ねた学習が可能となり、蒸留や敵対的訓練などの現代の深層学習技術に類似する。
• この枠組みは、知能が単一の最適化プロセスから生じるのではなく、ミンスキーの「マインドの社会」にインspiredされた、コスト関数と学習可能なモジュールの「協働」から生じると示唆する。