[논문 리뷰] Learning on Arbitrary Graph Topologies via Predictive Coding

Tommaso Salvatori, Luca Pinchetti외 5명|arXiv (Cornell University)|2022. 01. 31.

Functional Brain Connectivity Studies인용 수 9

한 줄 요약

이 논문은 예측 코딩( predictive coding, PC )이라는 생물학적으로 타당한 학습 알고리즘을 사용하여 임의의 방향성 그래프 구조에서 학습 및 추론을 가능하게 하는 PC 그래프라는 프레임워크를 소개한다. 국소적 오차 기반 업데이트와 유연한 노드 쿼리링을 활용함으로써 PC 그래프는 재학습 없이도 동시에 분류, 생성, 연상 기억 작업을 수행할 수 있으며, 부분적 또는 레이블이 부여된 이미지와 같은 다양한 입력 구조에서 표준 백프로파게이션 기반 모델보다 뛰어난 성능을 보인다.

ABSTRACT

Training with backpropagation (BP) in standard deep learning consists of two main steps: a forward pass that maps a data point to its prediction, and a backward pass that propagates the error of this prediction back through the network. This process is highly effective when the goal is to minimize a specific objective function. However, it does not allow training on networks with cyclic or backward connections. This is an obstacle to reaching brain-like capabilities, as the highly complex heterarchical structure of the neural connections in the neocortex are potentially fundamental for its effectiveness. In this paper, we show how predictive coding (PC), a theory of information processing in the cortex, can be used to perform inference and learning on arbitrary graph topologies. We experimentally show how this formulation, called PC graphs, can be used to flexibly perform different tasks with the same network by simply stimulating specific neurons, and investigate how the topology of the graph influences the final performance. We conclude by comparing against simple baselines trained~with~BP.

연구 동기 및 목표

• 표준 딥러닝에서의 백프로파게이션의 한계를 극복하기 위해 순환 구조나 이질적 연결을 포함한 임의의 그래프 구조에서도 작동하는 학습 프레임워크를 개발하는 것.
• 특정 노드를 조건으로 설정하기만 하여 재학습 없이도 분류, 생성, 연상 기억 등의 다양한 작업을 수행할 수 있는 단일 신경망을 가능하게 하는 것.
• 예측 코딩이 뇌 유사 네트워크 아키텍처에서 종단 간 학습이 가능한 생물학적으로 타당한 백프로파게이션의 대안임을 입증하는 것.
• 그래프 구조가 모델 성능에 미치는 영향을 조사하고, 다양한 입력 구조를 가진 과제에서 PC 그래프와 표준 백프로파게이션 기반 모델 간의 성능을 비교하는 것.

제안 방법

• 모든 방향성 그래프에 일반화된 예측 코딩을 적용한 PC 그래프를 제안하며, 각 노드는 예측과 오차 신호를 유지한다.
• 원래 Rao-Ballard 예측 코딩 프레임워크에 기반한 국소적 오차 기반 시냅스 업데이트를 사용하여 전역적 백프로파게이션 없이도 학습이 가능하도록 한다.
• 특정 노드(예: 입력, 레이블, 재구성 노드 등)를 조건으로 설정함으로써 다양한 작업(예: 분류 또는 생성)을 수행할 수 있도록 하는 유연한 쿼리링을 가능하게 한다.
• 고정점 반복 기법을 사용하여 그래프 전반에 걸쳐 예측과 오차가 수렴하도록 하여 단일 프로퍼게이션 내에서 추론과 학습을 동시에 수행할 수 있도록 한다.
• MNIST 및 FashionMNIST 데이터셋을 사용하여 이미지 과제에 적용하며, 재구성 노이즈를 정제하기 위해 top-k 클러스터링을 사용한다.
• 동일한 아키텍처에서 표준 백프로파게이션 기반 모델과의 성능를 비교하여 일반화 능력과 다양한 입력 형식에 대한 내구성을 평가한다.

실험 결과

연구 질문

• RQ1 예측 코딩은 순환 구조나 이질적 연결을 포함한 임의의 방향성 그래프 구조로 일반화될 수 있는가?
• RQ2 특정 입력 조건을 변경하기만 하여도 동일한 PC 그래프 모델이 분류, 생성, 연상 기억 등의 다양한 기계학습 과제를 수행할 수 있는가?
• RQ3 그래프의 구조가 PC 그래프의 성능에 미치는 영향은 표준 백프로파게이션 모델과 비교해 어떻게 나타나는가?
• RQ4 PC 그래프는 생물학적 타당성과 계산 효율성을 유지하면서도 백프로파게이션과 경쟁 가능한 성능을 얼마나 달성할 수 있는가?

주요 결과

• PC 그래프는 순환 구조나 소월드 구조를 포함한 임의의 그래프 구조에서 추론과 학습을 성공적으로 수행하였으며, 이는 표준 백프로파게이션으로서는 비가능한 영역이다.
• 동일한 네트워크를 재학습 없이도 다양한 방식으로 쿼리할 수 있으며, 예를 들어 레이블을 사용한 분류, 노이즈에서의 생성, 부분적 입력에서의 재구성 등 다양한 작업을 수행할 수 있다.
• 마지막 클러스터의 top-k 활성화가 노이즈를 정제함으로써 재구성 품질을 크게 향상시켜, 입력이 불완전한 경우에도 강건성을 입증하였다.
• MNIST 및 FashionMNIST에서 분류, 생성, 연상 기억 과제 전반에서 경쟁력 있는 성능를 달성하였으며, 특히 다중 쿼리 시나리오에서는 표준 백프로파게이션 기반 모델을 능가하였다.
• 에너지 기반 계산을 사용하여 동일한 칩에서 종단 간 학습이 가능하므로, 초저전력 뉴로모픽 하드웨어 구현 가능성을 시사한다.