[논문 리뷰] The Predictive Forward-Forward Algorithm

Alexander G. Ororbia, Ankur Mali|arXiv (Cornell University)|2023. 01. 04.

Neural dynamics and brain function인용 수 14

한 줄 요약

논문은 Predictive Forward-Forward (PFF) 알고리즘을 소개합니다. 이는 지역적 노이즈 보강 업데이트를 이용해 표현 학습과 상향-하향 생성 회로를 함께 학습하는 뇌에서 영감을 받은 순전파 기반의 크레딧 할당 방법으로, 이미지 태스크에서 역전파(backpropagation)와 거의 비슷한 성능을 달성합니다.

ABSTRACT

We propose the predictive forward-forward (PFF) algorithm for conducting credit assignment in neural systems. Specifically, we design a novel, dynamic recurrent neural system that learns a directed generative circuit jointly and simultaneously with a representation circuit. Notably, the system integrates learnable lateral competition, noise injection, and elements of predictive coding, an emerging and viable neurobiological process theory of cortical function, with the forward-forward (FF) adaptation scheme. Furthermore, PFF efficiently learns to propagate learning signals and updates synapses with forward passes only, eliminating key structural and computational constraints imposed by backpropagation-based schemes. Besides computational advantages, the PFF process could prove useful for understanding the learning mechanisms behind biological neurons that use local signals despite missing feedback connections. We run experiments on image data and demonstrate that the PFF procedure works as well as backpropagation, offering a promising brain-inspired algorithm for classifying, reconstructing, and synthesizing data patterns.

연구 동기 및 목표

• 역전파의 크레딧 할당에 대한 신경생물학적 가능성 우려를 제시하고 해결합니다.
• 표현 학습과 생성 모델을 동시에 학습하는 다이나믹 순환 시스템을 개발합니다.
• 로컬, 병렬 업데이트를 가능하게 하기 위해 Forward-Forward 학습과 예측 부호화 개념을 통합합니다.
• 이미지 데이터셋에서 분류, 재구성, 데이터 합성에 대해 PFF를 평가하고 역전파 기반 방법과 비교합니다.

제안 방법

• 두 개의 결합된 신경 회로를 제안합니다: 표현 회로(매개변수 Θr)와 생성 회로(매개변수 Θg).
• 데이터와 음수를 구분하는 이진 유사 로지스틱 목표를 사용한 각 층의 로컬 적합도 학습 규칙을 정의합니다(식 3).
• 노이즈 주입과 함께 위-아래 및 측면 신호를 집계하는 순환 표현 회로를 통해 층 활동을 계산합니다(식 4 및 식 5의 L-구조 관련).
• 백프로파게이션 없이 SGD/Adam으로 순방향 패스를 통해 전체 목표를 최적화하며 로컬 규칙으로 시냅스를 업데이트합니다(식 6–8).
• 표현 층 활동을 예측하고 데이터를 합성하기 위해 Hebbian 유사 규칙(식 9–14)으로 생성 회로를 동시에 학습합니다.
• 부정 데이터 생성을 위해 잘못된 라벨을 샘플링하고 양성/음성 샘플을 연결하여 학습 입력을 만들며 다수의 자극 단계를 수행합니다(T≈8–10).

실험 결과

연구 질문

• RQ1 PFF가 신경생물학적 가능성에 부합하는 한정된 순전파만으로도 역전파와 유사한 판단 성능을 낼 수 있는가?
• RQ2 표현 학습과 생성 모델의 공동 학습이 데이터의 재구성 및 합성에 도움이 되는가?
• RQ3 다양한 이미지 데이터셋에서 PFF의 성능은 FF 및 BP 기반 기준선과 비교해 어떠한가?
• RQ4 로컬 학습 규칙으로 구현 가능한 뇌 영감 하드웨어 및 신경모픽 구현에 이 접근이 타당한가?

주요 결과

• PFF-RNN은 MNIST에서 BP-FNN에 근접한 분류 오차(1.34% 대 1.30%)를 달성하고, 다른 데이터셋에서는 BP-FNN보다 우수한 성능을 보입니다.
• MNIST, K-MNIST, F-MNIST, N-MNIST, Ethiopic-MNIST 데이터셋 전반에서 PFF-RNN은 경쟁력 있는 테스트 오차를 달성합니다(각각 1.34%, 6.25%, 10.40%, 5.27%, 0.451%).
• PFF는 양질의 재구성 및 생성 샘플을 학습하며 잠재 공간의 클러스터가 클래스에 대응합니다.
• PFF는 4-KNN, Rnd-FNN 등 여러 기준선보다 우수하거나 동일 수준으로 FF를 능가하는 경우가 많으며, 여러 작업에서 경쟁력을 보입니다.
• 정성적 결과는 뚜렷하고 클래스 중심의 잠재 클러스터와 시각적으로 타당한 재구성 및 합성을 보여줍니다.