[論文レビュー] Error-driven Input Modulation: Solving the Credit Assignment Problem without a Backward Pass

Giorgia Dellaferrera, Gabriel Kreiman|arXiv (Cornell University)|Jan 27, 2022

Neural Networks and Applications被引用数 7

ひとこと要約

この論文は、バックプロパゲーションを二回のフォワードパスメカニズムに置き換える生物学的に妥当な学習ルールPEPITAを提案する。入力が誤差信号によって調整され、逆伝播なしに重み更新が計算される。MNIST、CIFAR-10、CIFAR-100の各タスクでバックプロパゲーションと同等の性能を達成し、重みの対称性、非局所性、活性の凍結、更新ロックといった主な問題を解決する。

ABSTRACT

Supervised learning in artificial neural networks typically relies on backpropagation, where the weights are updated based on the error-function gradients and sequentially propagated from the output layer to the input layer. Although this approach has proven effective in a wide domain of applications, it lacks biological plausibility in many regards, including the weight symmetry problem, the dependence of learning on non-local signals, the freezing of neural activity during error propagation, and the update locking problem. Alternative training schemes have been introduced, including sign symmetry, feedback alignment, and direct feedback alignment, but they invariably rely on a backward pass that hinders the possibility of solving all the issues simultaneously. Here, we propose to replace the backward pass with a second forward pass in which the input signal is modulated based on the error of the network. We show that this novel learning rule comprehensively addresses all the above-mentioned issues and can be applied to both fully connected and convolutional models. We test this learning rule on MNIST, CIFAR-10, and CIFAR-100. These results help incorporate biological principles into machine learning.

研究の動機と目的

• バックプロパゲーションの生物学的非妥当性、特に重みの対称性問題と非局所的誤差信号の問題を解決すること。
• 二回目のフォワードパス中にレイヤーワイズのフォワード型重み更新を可能にすることで、更新ロック問題を克服すること。
• 逆伝播による誤差伝搬の必要性を排除することで、神経活動の凍結を回避し、オンライン学習を可能にすること。
• グローバルな誤差信号を用いながらも、局所的なシナプス可塑性の制約を尊重する学習ルールの開発。
• 標準的なビジョンベンチマークを用いて、全結合型および畳み込みニューラルネットワークの両方で本手法の実現可能性を示すこと。

提案手法

• ネットワークの活性と出力誤差を計算するための標準的なフォワードパスを実行する。
• 出力誤差に固定されたランダム行列を乗算して入力を変調し、摂動を加えた入力信号を生成する。
• 誤差変調された入力を用いた二回目のフォワードパスを実行し、新しい活性を計算する。
• 最初のフォワードパスと二回目のフォワードパスの間の活性の差分を用いて、シナプス重みの更新を計算する。
• 前後活性の不一致に基づく二要因型のヒブスチアンに類似したルールを用いて、レイヤーワイズのフォワード型重み更新を実行する。
• 勾配の近似が可能になるよう、元のフォワードパスの活性を保存する。

実験結果

リサーチクエスチョン

• RQ1 単一のフォワードパスに依存する学習ルールが、バックプロパゲーションなしにクレジット割り当て問題を解けるか？
• RQ2 このようなルールが、標準的なビジョンベンチマークでバックプロパゲーションと同等の性能を達成できるか？
• RQ3 本手法が、重みの対称性や活性の凍結といったバックプロパゲーションの主な生物学的非妥当性を解消できるか？
• RQ4 本手法が、全結合型および畳み込み型ネットワークの両方へ適用可能か？
• RQ5 二回のフォワードパスメカニズムは、フィードバックアライメントおよび直接的フィードバックアライメントと比較して、生物学的妥当性および性能の面で優れているか？

主な発見

• PEPITAはMNISTで97.8%、CIFAR-10で85.1%、CIFAR-100で62.3%のテスト精度を達成し、バックプロパゲーションの性能に近く近い。
• 本手法は逆伝播を完全に回避しており、誤差の逆伝播の必要性がなく、神経活動の凍結を防ぐ。
• PEPITAは、共通または対称的なフィードバック重みを必要としないため、重みの対称性問題を解消する。
• 二回目のフォワードパス中にレイヤーワイズの更新を可能にすることで、部分的なオンライン学習が可能になり、更新ロックが軽減される。
• 学習ルールはヒブスチアン学習に構造的に類似しており、局所的な前後活性の不一致によってシナプス更新が駆動される。
• 本手法は二コンpartニューロンモデルと互換性があり、樹状突起と soma の統合による生物学的実装が妥当であると考えられる。