[論文レビュー] Tightening the Biological Constraints on Gradient-Based Predictive Coding

Nicholas Alonso, Emre Neftci|arXiv (Cornell University)|Apr 30, 2021

Neural dynamics and brain function参考文献 34被引用数 4

ひとこと要約

この論文は、ReLU活性化を用いて正の発火率を強制し、重み転置を学習可能なフィードバック行列に置き換え、負の神経活動を回避する新しい誤差符号化方式（除算および減算ベース）を導入することで、勾配ベースの予測符号化（PC）の神経生理学的妥当性を高めた。修正されたPCモデルは、元のPCモデルおよびバックプロパゲーションと同等のMNIST分類性能を達成し、生物学的制約を考慮したニューロモルフィック学習の有効性を示している。

ABSTRACT

Predictive coding (PC) is a general theory of cortical function. The local, gradient-based learning rules found in one kind of PC model have recently been shown to closely approximate backpropagation. This finding suggests that this gradient-based PC model may be useful for understanding how the brain solves the credit assignment problem. The model may also be useful for developing local learning algorithms that are compatible with neuromorphic hardware. In this paper, we modify this PC model so that it better fits biological constraints, including the constraints that neurons can only have positive firing rates and the constraint that synapses only flow in one direction. We also compute the gradient-based weight and activity updates given the modified activity values. We show that, under certain conditions, these modified PC networks perform as well or nearly as well on MNIST data as the unmodified PC model and networks trained with backpropagation.

研究の動機と目的

• 主な神経生理学的制約に対処することで、勾配ベースの予測符号化をより生物学的に妥当なバージョンに発展させること。
• 標準的なPCにおける生物学的に不実在の重み転置を、学習可能なフィードバック重み行列に置き換えること。
• 勾配伝搬を維持しつつ、ReLU活性化を用いて神経活動値が正の値をとることを保証すること。
• 予測誤差を正の発火率のみで表現する新しい誤差符号化方式を考案・評価すること。
• 修正されたモデルが、MNISTのような教師あり学習タスクにおいて高い性能を維持できることを実証すること。

提案手法

• 誤差伝搬における重み転置を、[12]のルールに基づいて学習可能である別個のフィードバック重み行列に置き換える。または、初期化をランダムに設定する。
• 非負の神経活動値を強制するためにReLU活性化を適用し、生物学的に不実在の負の発火率を防止する。
• ReLUの微分不能性にもかかわらず情報を保持する勾配計算手法を開発し、ReLU層を介したバックプロパゲーションを可能にする。
• 除算ベースおよび減算ベースのしきい値符号化という2つの新しい誤差符号化方式を導入し、両方とも誤差ニューロンの発火率が正の値のみをとることを保証する。
• これらの新しい符号化方式の勾配を計算し、重みおよび活動値の更新ルールに統合する。
• さまざまな設定でMNISTデータセットに対して修正されたPCモデルをテストし、性能および一般化能力を評価する。

実験結果

リサーチクエスチョン

• RQ1 ReLU活性化を用いて非負の神経活動値を強制することで、勾長ベースの予測符号化を生物学的により妥当なものにできるか？
• RQ2 誤差伝搬における重み転置を学習可能なフィードバック重み行列に置き換えることで、学習性能を維持しつつ生物学的妥当性を向上させられるか？
• RQ3 除算または減算しきい値による符号化といった新しい符号化方式により、負の誤差を正の発火率のみで符号化できるか？
• RQ4 除算と減算の2つの誤差符号化方式の違いが、修正されたPCモデルにおける学習性能および勾配伝搬にどのように影響するか？
• RQ5 生物学的制約を課した結果得られたPCモデルは、標準的なバックプロパゲーションおよび元のPCモデルと同等の性能を達成できるか？

主な発見

• ReLU活性化されたニューロンと学習可能なフィードバック重みを備えた修正PCモデルは、MNISTテスト精度において元のPCモデルおよび標準的なバックプロパゲーションと同等の性能を達成した。
• 減算ベースのしきい値誤差符号化方式は、負の誤差を正の発火率のみで正しく表現でき、生物学的に妥当な誤差信号伝達を可能にした。
• 従来、神経生理学的データに除算符号化が減算符号化よりも適合しやすいと示されてきたが、本研究では適切な勾配計算を伴ってその方式をモデルに統合することに成功した。
• ReLU活性化層における勾配計算は、修正されたバックプロパゲーション手法により保持され、ReLUの微分不能性にもかかわらず、効果的な学習が維持された。
• 訓練済みのフィードバック重みを備えたモデルは、ランダムなフィードバック重みバージョンを上回る性能を示し、フィードバック重みの学習が性能向上に寄与することを示した。
• 全体として、修正されたPCモデルは、元のPCモデルおよびバックプロパゲーションと同等またはそれ以上にMNISTで性能を発揮し、ニューロモルフィックおよび生物学的学習への応用可能性を裏付けた。