[論文レビュー] Towards a Biologically Plausible Backprop

Benjamin Scellier, Yoshua Bengio|arXiv (Cornell University)|Feb 16, 2016

Neural dynamics and brain function参考文献 21被引用数 31

ひとこと要約

この論文は、エネルギーに基づくモデルにインspiredされた生物学的に妥当な学習フレームワークを提案している。バックプロパゲーションに類似した誤差逆伝播が、二段階のプロセスを通じて自然に生じる。まず、固定点計算により予測がなされ、次に出力ユニットがターゲットに向けてわずかにずらされ、その摂動が逆方向に伝播し、誤差勾配を暗黙的に計算する。この方法により、明示的なバックプロパゲーション計算を必要とせず、標準的なバックプロパゲーションの生物学的に妥当な代替手段を提供する。

ABSTRACT

This work contributes several new elements to the quest for a biologically plausible implementation of backprop in brains. We introduce a very general and abstract framework for machine learning, in which the quantities of interest are defined implicitly through an energy function. In this framework, only one kind of neural computation is involved both for the first phase (when the prediction is made) and the second phase (after the target is revealed), like the contrastive Hebbian learning algorithm in the continuous Hopfield model for example. Contrary to automatic differentiation in computational graphs (i.e. standard backprop), there is no need for special computation in the second phase of our framework. One advantage of our framework over contrastive Hebbian learning is that the second phase corresponds to only nudging the first-phase fixed point towards a configuration that reduces prediction error. In the case of a multi-layer supervised neural network, the output units are slightly nudged towards their target, and the perturbation introduced at the output layer propagates backward in the network. The signal 'back-propagated' during this second phase actually contains information about the error derivatives, which we use to implement a learning rule proved to perform gradient descent with respect to an objective cost function.

研究の動機と目的

• ニューラルネットワークにおける標準的なバックプロパゲーションの生物学的に妥当な代替手段を開発すること。
• 学習における明示的で分離された逆方向計算フェーズの必要性を排除し、生物学的ニューロンダイナミクスにさらに近づけること。
• 前方計算と補正フェーズの両方で同じ種類の神経計算のみを用いて、誤差信号の暗黙的伝播を通じて勾配降下を可能にすること。
• 摂動伝播によって自然に誤差微分が計算される学習ルールを形式化し、別個の逆方向パスの必要性を回避すること。

提案手法

• ネットワークの動作を、ネットワーク状態がシステムの固定点に対応する暗黙的なエネルギー関数によって定義する。
• 予測（第一フェーズ）と誤差補正（第二フェーズ）の両方で、同一の神経計算タイプを用い、対照的ヘブ学習を模倣する。
• 出力層にターゲットに向かう小さな摂動を導入し、それがネットワーク全体に逆方向に伝播する。
• その結果生じる摂動場が誤差勾配情報を符号化しており、効果的な重み更新を可能にすることを示す。
• この摂動の逆方向伝播に基づく学習ルールを導出し、コスト関数における勾配降下を実行すること。
• ネットワークの内在的ダイナミクスが誤差信号を生成することに依存することで、明示的なバックプロパゲーション計算を回避すること。

実験結果

リサーチクエスチョン

• RQ1 明示的なバックプロパゲーション計算を回避する生物学的に妥当な学習ルールを設計できるか？
• RQ2 別個の逆方向パスを必要とせずに、ネットワークダイナミクスを通じて誤差勾配をどのように暗黙的に計算できるか？
• RQ3 同一の神経計算タイプが、生物学的妥当性に整合する形で予測フェーズと学習フェーズの両方を支えられるか？
• RQ4 第二フェーズにおける摂動に基づく逆方向伝播が、効果的な学習に繋がる勾配をもたらすか？
• RQ5 このフレームワークは、明示的でエネルギーに基づくダイナミクスのみを用いて、コスト関数における勾配降下を達成できるか？

主な発見

• このフレームワークは、明示的なバックプロパゲーション計算を要せず、コスト関数における勾配降下を実現できる。
• 誤差勾配は、ネットワークのダイナミクスから自然に生じる小さな出力摂動の逆方向伝播に暗黙的に符号化されている。
• このプロセスから導かれた学習ルールは、予測誤差を低減する効果的な重み更新を実行する。
• 前方計算と補正フェーズの両方で同一の神経計算タイプのみを用いることで、生物学的妥当性を維持している。
• 第二フェーズのダイナミクスは、第一フェーズの固定点を誤差が小さい構成へとわずかにずらすことに相当し、エネルギー最小化の原則と整合している。
• このフレームワークは単純なネットワークにとどまらず、多層アーキテクチャにおける生物学的に妥当な学習へのスケーラブルなアプローチを提供する。