[論文レビュー] The Predictive Forward-Forward Algorithm

Alexander G. Ororbia, Ankur Mali|arXiv (Cornell University)|Jan 4, 2023

Neural dynamics and brain function被引用数 14

ひとこと要約

本論文は Predictive Forward-Forward (PFF) アルゴリズムを導入しており、局所的なノイズ強化更新を伴う表現とトップダウン生成回路を同時に学習する脳にヒントを得た前向き伝播クレジット割り当て法で、画像タスクにおいてバックプロパゲーションに近い性能を実現します。

ABSTRACT

We propose the predictive forward-forward (PFF) algorithm for conducting credit assignment in neural systems. Specifically, we design a novel, dynamic recurrent neural system that learns a directed generative circuit jointly and simultaneously with a representation circuit. Notably, the system integrates learnable lateral competition, noise injection, and elements of predictive coding, an emerging and viable neurobiological process theory of cortical function, with the forward-forward (FF) adaptation scheme. Furthermore, PFF efficiently learns to propagate learning signals and updates synapses with forward passes only, eliminating key structural and computational constraints imposed by backpropagation-based schemes. Besides computational advantages, the PFF process could prove useful for understanding the learning mechanisms behind biological neurons that use local signals despite missing feedback connections. We run experiments on image data and demonstrate that the PFF procedure works as well as backpropagation, offering a promising brain-inspired algorithm for classifying, reconstructing, and synthesizing data patterns.

研究の動機と目的

• バックプロパゲーションによるクレジット割り当ての生物学的 plausibility の懸念を動機付け、対処する。
• 表現と生成モデルを同時に学習するダイナミックな再帰系を開発する。
• 局所的・並列更新を可能にするために、予測符号化の概念と前向き-Forward 学習を統合する。
• 分類、再構成、およびデータ合成のために画像データセット上で PFF を評価し、バックプロパゲーションベースの手法と比較する。

提案手法

• 表現回路（パラメータ Θr）と生成回路（パラメータ Θg）という2つの結合したニューラル回路を提案する。
• データとネガティブを区別する二項様ロジスティック目的（式3）を用いた層ごとの局所的な良度ベース学習規則を定義する。
• ノイズ注入を伴うトップダウン・ボトムアップ・横方向信号を統合する反復的表現回路を介して層の活動を計算する（式4および式5のL-構造に関連）。
• バックプロパゲーションなしに前方伝播を用いて全体目的を最適化するために、局所規則（式6–8）でシナプスを更新する。
• 表現層の活動を予測しデータを合成することを目的とするヘブリアン様ルール（式9–14）を用いて生成回路を同時に訓練する。
• 不適合なラベルをサンプリングして正/負のサンプルを連結し、トレーニング入力を形成することでネガティブデータ生成を活用する；複数の刺激ステップを実施する（T≈8–10）。

実験結果

リサーチクエスチョン

• RQ1 PFF はクレジット割り当てのために正前方伝播のみを用いながら、ディスクリミネーション性能をバックプロパゲーションと同等に達成できるか？
• RQ2 表現と生成モデルの同時学習はデータの再構成と生成を改善するか？
• RQ3 PFF は FF および BP ベースのベースラインと比較して、多様な画像データセットでどう性能を示すか？
• RQ4 局所学習規則のため、脳インスパired ハードウェアやニューロモルフィック実装に本法を適用可能か？

主な発見

• PFF-RNN は MNIST において BP-FNN に近い分類誤差を達成（1.34% vs 1.30%）、他データセットで BP-FNN を上回る。
• MNIST, K-MNIST, F-MNIST, N-MNIST, Ethiopic-MNIST の各データセットにわたり PFF-RNN は競合的なテスト誤差を達成（それぞれ 1.34%, 6.25%, 10.40%, 5.27%, 0.451%）。
• PFF は良質な再構成と生成サンプルを学習し、潜在空間クラスタがクラスに対応する。
• PFF は4-KNNやRnd-FNNを含むいくつかのベースラインを上回り、複数のタスクで FF に匹敵するかそれを上回る。
• 定性的な結果は、クラス中心の潜在クラスタと視覚的に妥当な再構成・合成を示す。