[論文レビュー] Learning efficient backprojections across cortical hierarchies in real time

Kevin Max, Laura Kriener+5 more|arXiv (Cornell University)|Dec 20, 2022

Neural dynamics and brain function被引用数 6

ひとこと要約

本稿では、重み輸送や段階的学習を必要とせず、深層皮質階層における効率的な責任割り当てを実現する生物学的に妥当な手法、位相なし整合学習（PAL）を提案する。神経細胞の内在的ノイズを誤差情報のキャリアとして活用することで、層間で連続的かつ局所的にリアルタイムにフィードバック重みを学習可能となり、ランダムなフィードバックよりも少ないニューロン数でより優れた潜在表現を達成する。

ABSTRACT

Models of sensory processing and learning in the cortex need to efficiently assign credit to synapses in all areas. In deep learning, a known solution is error backpropagation, which however requires biologically implausible weight transport from feed-forward to feedback paths. We introduce Phaseless Alignment Learning (PAL), a bio-plausible method to learn efficient feedback weights in layered cortical hierarchies. This is achieved by exploiting the noise naturally found in biophysical systems as an additional carrier of information. In our dynamical system, all weights are learned simultaneously with always-on plasticity and using only information locally available to the synapses. Our method is completely phase-free (no forward and backward passes or phased learning) and allows for efficient error propagation across multi-layer cortical hierarchies, while maintaining biologically plausible signal transport and learning. Our method is applicable to a wide class of models and improves on previously known biologically plausible ways of credit assignment: compared to random synaptic feedback, it can solve complex tasks with less neurons and learn more useful latent representations. We demonstrate this on various classification tasks using a cortical microcircuit model with prospective coding.

研究の動機と目的

• 誤反転伝搬における生物学的に不実用的な要件（特に重み輸送や離散的前向き／後向き段階）を解消すること。
• 常にオンの可塑性と局所的情報のみを用いる連続時間で完全に動的である学習システムを構築すること。
• 局所的に利用可能な信号と内在的ノイズのみを用いて、深層皮質階層における効率的な誤差伝搬を実現すること。
• ランダムまたは固定のフィードバック接続に依存せずに、有用なフィードバック重みを学習することで、深層ネットワークにおける責任割り当てを改善すること。

提案手法

• PALは、漏れ積分器ニューロンを用いたレートベースの連続時間動的システムであり、局所的情報を用いてリアルタイムにシナプス重みを更新する。
• 神経細胞のノイズ（オルンシュタイン＝ウーレンベック過程）を誤差情報のキャリアとして活用し、明示的な誤差逆伝搬なしにフィードバック重みの学習を可能にする。
• 膜電位のハイパスフィルタリングによる予測的符号化機構を導入することで、入力への準瞬時の応答が可能となり、連続的学習が可能になる。
• フィードバック重みは、ノイズで変調された誤差信号に基づき、上位からの重みと下位の接続を局所的な学習則で整合化する。
• バッファリングや推論・学習段階の入れ替えが不要なため、常に可塑性を維持することで段階的学習を回避する。
• フレームワークは皮質マイクロサーキットモデルに実装され、ノイズを戦略的層に注入した変更版LeNet-5アーキテクチャを用いてMNISTおよびCIFAR-10で検証された。

実験結果

リサーチクエスチョン

• RQ1 重み輸送や離散的学習段階が不要な状況でも、深層皮質階層における責任割り当ては達成可能か？
• RQ2 内在的神経細胞ノイズを誤差情報の機能的キャリアとして活用し、フィードバック重みの学習に用いることは可能か？
• RQ3 ランダムフィードバックや固定フィードバックアライメントと比較して、PALの性能とサンプル効率はどのように異なるか？
• RQ4 最小限のアーキテクチャ変更で、PALは有用な潜在表現を学習可能か？
• RQ5 CIFAR-10のようなより大きなベンチマークでも、PALは生物学的に妥当な信号輸送と学習ダイナミクスを維持しながらスケーラブルか？

主な発見

• PALは、MNISTおよびCIFAR-10分類タスクにおいてランダムフィードバックよりも優れた性能を達成し、複雑なタスクを解くために必要なニューロン数も少ない。
• 本手法は、常にオンの可塑性を持つ完全に連続時間的・段階なしのフレームワークで、複数層にわたる効率的な誤差伝搬を実現する。
• ノイズを情報キャリアとして用いることで、重み輸送の必要性が排除され、逆伝搬のような生物学的に不実用的なメカニズムも回避される。
• PALで学習した潜在表現に基づく線形分類器は高いテスト精度を達成し、学習された特徴の質の高さを示している。
• アルゴリズムは、連続時間版LeNet-5を含むより大きなネットワークに対しても効果的にスケーリングされ、安定した収束と改善された一般化性能を示している。
• ノイズなしでの検証により、公平な比較が可能となり、PALの性能向上はノイズ誘発効果ではなく、学習メカニズムそのものに起因することが確認された。