[論文レビュー] Multi-layer Hebbian networks with modern deep learning frameworks

Thomas Miconi|arXiv (Cornell University)|Jul 4, 2021

Neural dynamics and brain function参考文献 5被引用数 4

ひとこと要約

この論文は、勾配が生物学的に妥当な学習ルール（ヒブナー、インスターやオーヤのルールなど）を正確に再現するように設計された特定の損失関数を導入することにより、現代のディープラーニングフレームワークを用いて階層的で畳み込み型のヒブナー学習ネットワークを効率的に実装できることを示している。この手法により、スパースな可塑性やプルーニングといった干渉を加えることで、特徴の退化を是正し、層間での情報量を増加させることで、マルチレイヤーのオブジェクト認識性能が向上する。

ABSTRACT

Deep learning networks generally use non-biological learning methods. By contrast, networks based on more biologically plausible learning, such as Hebbian learning, show comparatively poor performance and difficulties of implementation. Here we show that hierarchical, convolutional Hebbian learning can be implemented almost trivially with modern deep learning frameworks, by using specific losses whose gradients produce exactly the desired Hebbian updates. We provide expressions whose gradients exactly implement a plain Hebbian rule (dw ~= xy), Grossberg's instar rule (dw ~= y(x-w)), and Oja's rule (dw ~= y(x-yw)). As an application, we build Hebbian convolutional multi-layer networks for object recognition. We observe that higher layers of such networks tend to learn large, simple features (Gabor-like filters and blobs), explaining the previously reported decrease in decoding performance over successive layers. To combat this tendency, we introduce interventions (denser activations with sparse plasticity, pruning of connections between layers) which result in sparser learned features, massively increase performance, and allow information to increase over successive layers. We hypothesize that more advanced techniques (dynamic stimuli, trace learning, feedback connections, etc.), together with the massive computational boost offered by modern deep learning frameworks, could greatly improve the performance and biological relevance of multi-layer Hebbian networks.

研究の動機と目的

• 生物的妥当な学習ルールと現代のディープラーニングの間のギャップを埋め、それらをマルチレイヤーのネットワークに実用的に実装すること。
• ヒブナー学習がディープネットワークで性能が低く、実装が難しいという問題を、現代のディープラーニングフレームワークと統合することで解決すること。
• ヒブナー学習がディープアーキテクチャでオブジェクト認識タスクにおいて競争力のある性能を達成できるかどうかを調査すること。
• 高レイヤーが大規模で単純な特徴を学習する傾向があり、その結果、復号性能が低下することを特定し、是正すること。
• スパースな可塑性やプルーニングといった干渉が、特徴のスパarsityと層間の情報フローをどのように向上させるかを調査すること。

提案手法

• 勾配が単純なヒブナー則（dw ~= xy）、グロスベルグのインスタール則（dw ~= y(x-w)）、オーヤの則（dw ~= y(x-yw)）を正確に実装するように設計されたカスタム損失関数の設計。
• これらの損失関数から得られる勾配をバックプロパゲーションで利用し、現代のディープラーニングフレームワークを用いて、マルチレイヤー畳み込み型ヒブナー学習ネットワークのエンドツーエンド学習を可能にすること。
• 皮質処理を模倣するように、階層的かつ畳み込み型のアーキテクチャを用いて、レイヤーワイズに特徴を学習すること。
• スパースな可塑性を伴う密度の高い活性化を導入し、学習された特徴のスパarsityを促進し、退化を防ぐこと。
• 層間の接続をプルーニングすることで、冗長性を低減し、層間の情報フローを向上させること。
• オブジェクト認識タスクでネットワークを学習させながら、各レイヤーにおける特徴の進化と復号性能の変化をモニタリングすること。

実験結果

リサーチクエスチョン

• RQ1 現代のディープラーニングフレームワークを用いて、生物学的インスピレーションを受けるヒブナー学習ルールを、ディープ畳み込みネットワークに効果的に実装できるか？
• RQ2 なぜヒブナーネットワークの高レイヤーは大規模で単純な特徴を学習する傾向があり、その結果、性能にどのような影響を与えるのか？
• RQ3 スパースな可塑性やプルーニングといった干渉は、ヒブナーネットワークにおける特徴のスパarsityと性能を向上させることができるか？
• RQ4 適切な干渉が施された場合、ヒブナーネットワークにおいて層をまたいで情報量が増加するか？
• RQ5 現代のディープラーニングフレームワークは、より生物学的に妥当なディープラーニングモデルの開発をどの程度可能にするか？

主な発見

• 修正のないヒブナーネットワークの高レイヤーは、ガボールフィルターやブロブに類似した大規模で単純な特徴を学習しており、これは復号性能の低下と相関している。
• スパースな可塑性を伴う密度の高い活性化を導入することで、特徴がよりスパースで情報量が多くなるため、ネットワークの性能が顕著に向上する。
• 層間の接続をプルーニングすることで、さらに性能が向上し、連続するレイヤー間で情報量が増加することが可能になる。
• ヒブナー則を正確に実装する勾配ベースの損失関数を用いることで、生物学的に妥当な学習メカニズムを現代のディープラーニングパイプラインに容易に統合できる。
• 適切なアーキテクチャ的および学習的干渉を施すことで、ヒブナーネットワークが競争力のある性能を達成しながらも生物学的妥当性を維持できることが示唆される。
• このフレームワークは、将来、トレース学習やフィードバック接続といった高度な技術の、生物学的インスピレーションを受けるディープラーニング分野における探求の道を開く。