[論文レビュー] Activation Relaxation: A Local Dynamical Approximation to Backpropagation in the Brain

Beren Millidge, Alexander Tschantz+2 more|arXiv (Cornell University)|Sep 11, 2020

Neural dynamics and brain function参考文献 67被引用数 11

ひとこと要約

本稿では、局所的なシナプス信号と1つの逆方向の緩和段階のみを用いて正確な誤差勾配を計算する、神経生物学的に妥当なバックプロパゲーションの近似手法であるActivation Relaxation (AR) を提案する。バックプロパゲーションを動的システムの平衡状態として定式化することにより、AR は正確な勾配に迅速かつ安定して収束し、任意の計算グラフをサポートし、重み輸送や非線形導関数といった主要な生物学的非妥当性を排除する。これにより、標準的なバックプロパゲーションと同等の性能を発揮しながらも、神経生物学的に解釈可能なままである。

ABSTRACT

The backpropagation of error algorithm (backprop) has been instrumental in the recent success of deep learning. However, a key question remains as to whether backprop can be formulated in a manner suitable for implementation in neural circuitry. The primary challenge is to ensure that any candidate formulation uses only local information, rather than relying on global signals as in standard backprop. Recently several algorithms for approximating backprop using only local signals have been proposed. However, these algorithms typically impose other requirements which challenge biological plausibility: for example, requiring complex and precise connectivity schemes, or multiple sequential backwards phases with information being stored across phases. Here, we propose a novel algorithm, Activation Relaxation (AR), which is motivated by constructing the backpropagation gradient as the equilibrium point of a dynamical system. Our algorithm converges rapidly and robustly to the correct backpropagation gradients, requires only a single type of computational unit, utilises only a single parallel backwards relaxation phase, and can operate on arbitrary computation graphs. We illustrate these properties by training deep neural networks on visual classification tasks, and describe simplifications to the algorithm which remove further obstacles to neurobiological implementation (for example, the weight-transport problem, and the use of nonlinear derivatives), while preserving performance.

研究の動機と目的

• 標準的なバックプロパゲーションの生物学的非妥当性に対処すること。これは、非局所的なグローバル誤差信号と正確な重み輸送に依存する。
• 複数の逆方向パスや複雑な接続構造を必要とせず、事前・事後のシナプス活動や局所的導関数といった局所的シナプス情報のみを用いる学習アルゴリズムを開発すること。
• 神経生物学的実装の主な障壁、特に重み輸送問題と勾配計算における非線形導関数の必要性を排除すること。
• 正確なバックプロパゲーション勾配が、局所ルールによって駆動される単一の連続的動的緩和プロセスによって達成可能であることを示すこと。
• 単一のニューロンタイプと単一の逆方向段階に簡素化することで、皮質マイクロサーキットへの実装可能性を高めること。

提案手法

• バックプロパゲーション勾配を、活性度が局所的誤差関数を最小化する方向に進化する連続時間の動的システムの平衡点として定式化する。
• 局所的誤差信号（現在の活動と逆方向重みを介してマッピングされた目標との差）に基づき、1つの逆方向緩和段階で反復的にニューロンの活性度を調整する。
• 更新則は予測誤差メカニズムに基づく。各ニューロンは、上位層からの予測状態と現在の状態との乖離に基づき、自身の活動を補正する。
• 勾配計算を明示的に行わず、システムのダイナミクスに勾配計算を埋め込むことで、局所的シナプス情報と活動情報のみに依存する。
• AR の簡略化版は、対称的または結合された重みの必要性を排除し、非線形導関数を避けて、線形変換と局所的フィードバックのみを用いる。
• アルゴリズムは視覚分類タスクにおける深層ニューラルネットワークに適用され、最小限のアーキテクチャ的オーバーヘッドで、標準バックプロパゲーションの正確な勾配に収束することが示された。

実験結果

リサーチクエスチョン

• RQ1 グローバル誤差信号や重み輸送なしに、局所的シナプス信号のみを用いてバックプロパゲーション勾配を計算可能か？
• RQ2 生物学的妥当な学習アルゴリズムにおいて、複数の逆方向パスに代わって単一の連続的動的緩和段階が使用可能か？
• RQ3 局所的バックプロパゲーション近似において、非線形導関数と重み対称性の両方の必要性を排除しつつ、性能を維持可能か？
• RQ4 ニューラルネットワークのダイナミクスを、その平衡点が正確にバックプロパゲーション勾配に対応するように構造化可能か？
• RQ5 活性度ユニットを、生物学的に妥当な方法で前向き推論と勾配計算の両方の目的に再利用可能か？

主な発見

• Activation Relaxation は、深層ネットワークでさえも、標準バックプロパゲーションが計算する正確な勾配に迅速かつ安定して収束する。
• アルゴリズムは単一の逆方向緩和段階と単一の計算ユニットタイプのみを必要とし、従来の局所的近似と比較して大幅に複雑性が低減される。
• AR の簡略化版は、重み対称性や非線形導関数の必要性を排除しているが、視覚分類タスクにおいて標準バックプロパゲーションと同等の性能を維持する。
• 明示的な勾配計算なしに正確な勾配を達成しており、活動度の差に基づく局所的更新則に勾配ダイナミクスを埋め込んでいる。
• アルゴリズムは任意の計算グラフと互換性があり、特殊な接続パターンや複数の逐次段階を必要としない。
• 同じ神経集団を活性度と勾配の両方の表現に再利用することで、皮質サーキットにおける多重計算のメカニズムを示唆する、説得力ある神経生物学的解釈を提供する。