[논문 리뷰] Constrained Predictive Coding as a Biologically Plausible Model of the Cortical Hierarchy

Siavash Golkar, Tiberiu Teşileanu외 3명|arXiv (Cornell University)|2022. 10. 27.

Neural dynamics and brain function인용 수 5

한 줄 요약

이 논문은 잠재 공간의 공분산 제약 조건 하에서 예측 코딩 목표 함수의 상한을 유도함으로써 대칭 가중치와 별도의 값/오차 뉴런을 제거한 생물학적으로 타당한 예측 코딩의 변종인 BioCCPC를 제안한다. 이로써 유도된 알고리즘은 비-헤브시안 학습을 갖는 다중 구획 피라미드 뉴런에 자연스럽게 대응되며, 일대일 연결성이나 신호 멀티플렉싱이 필요 없이도 성능를 유지한다.

ABSTRACT

Predictive coding has emerged as an influential normative model of neural computation, with numerous extensions and applications. As such, much effort has been put into mapping PC faithfully onto the cortex, but there are issues that remain unresolved or controversial. In particular, current implementations often involve separate value and error neurons and require symmetric forward and backward weights across different brain regions. These features have not been experimentally confirmed. In this work, we show that the PC framework in the linear regime can be modified to map faithfully onto the cortical hierarchy in a manner compatible with empirical observations. By employing a disentangling-inspired constraint on hidden-layer neural activities, we derive an upper bound for the PC objective. Optimization of this upper bound leads to an algorithm that shows the same performance as the original objective and maps onto a biologically plausible network. The units of this network can be interpreted as multi-compartmental neurons with non-Hebbian learning rules, with a remarkable resemblance to recent experimental findings. There exist prior models which also capture these features, but they are phenomenological, while our work is a normative derivation. The network we derive does not involve one-to-one connectivity or signal multiplexing, which the phenomenological models required, indicating that these features are not necessary for learning in the cortex. The normative nature of our algorithm in the simplified linear case allows us to prove interesting properties of the framework and analytically understand the computational role of our network's components. The parameters of our network have natural interpretations as physiological quantities in a multi-compartmental model of pyramidal neurons, providing a concrete link between PC and experimental measurements carried out in the cortex.

연구 동기 및 목표

• 예측 코딩(PC)과皮질 신경생리학 사이의 모순을 해결하기 위해, 특히 대칭 가중치, 별도의 오차/값 뉴런, 일대일 연결성에 초점을 맞춘다.
• 최근 다중 구획 피라미드 뉴런의 계산에 관한 실험적 발견을 설명하는 범용(phenomenological이 아닌) 모델을 개발한다.
• 기본 원리에서 생물학적으로 타당한 학습 알고리즘을 유도하여 표준 PC와 동일한 성능를 유지하면서도 알려진 피질 회로와 일치시킨다.
• 신호 멀티플렉싱과 대칭 피드백 가중치가 계층적 피질 회로에서 효과적인 학습을 위해 필수적인 것이 아님을 보인다.

제안 방법

• 예측 코딩 프레임워크 내에서 은닉층 표현의 공분산에 대한 분리 유도 불등식 제약 조건을 도입한다.
• 이 제약 조건 하에서 예측 코딩 목표 함수의 분석적 상한을 유도하여 최적화 문제를 해석 가능한 형태로 변환한다.
• 상한을 확률적 경사 하강법으로 최적화함으로써 별도의 전방 및 역방향 가중치를 사용하는 학습 알고리즘을 도출한다.
• 유도된 알고리즘을 아풀 및 베이스 구획의 전도도가 네트워크 파라미터에 해당하는 다중 구획 뉴런 모델에 매핑한다.
• 유도된 알고리즘이 대칭 가중치나 값 뉴런과 오차 뉴런 사이의 일대일 연결성이 필요로 하지 않음을 보여준다.
• 네트워크 파라미터를 생리학적 양상(예: 세포막 전도도 및 누설 속도)으로 해석함으로써 알고리즘을 실험 측정과 직접 연결한다.

실험 결과

연구 질문

• RQ1 피질 회로에서 대칭 전방 및 역방향 가중치가 필요 없도록 예측 코딩을 재정의할 수 있는가?
• RQ2 다중 구획 피라미드 뉴런에서 비-헤브시안 학습이 자연스럽게 유도되는 범용적 예측 코딩 유도가 존재하는가?
• RQ3 값 뉴런과 오차 뉴런 간의 일대일 연결성이 성능 저하 없이 완화될 수 있는가?
• RQ4 계층적 피질 네트워크에서 효과적인 학습을 위해 신호 멀티플렉싱이 필수적인가?
• RQ5 예측 코딩의 제약 기반 재정의가 칼슘 플랫폼 파동 임계값과 아풀-베이스 구획 상호작용에 대한 경험적 발견을 잘 따르는 생물학적으로 타당한 학습 규칙을 도출할 수 있는가?

주요 결과

• 제안된 BioCCPC 알고리즘은 비대칭 가중치를 사용하고 일대일 연결성이 없음에도 불구하고 선형 영역에서 표준 예측 코딩과 유사한 성능를 보인다.
• 알고리즘이 다중 구획 피라미드 뉴런 모델에 자연스럽게 매핑되며, 아풀 및 베이스 구획의 전도도가 네트워크 파라미터에 해당한다.
• 유도된 학습 규칙은 비-헤브시안이며 칼슘 플랫폼 파동이 베이스 시냅스의 학습을 유도한다는 실험 관측과 일치한다.
• 공분산 제약 조건은 강력한 정규화 역할을 하여 훈련 및 검증 손실 곡선을 통해 최소한의 과적합이 발생했음을 보여준다.
• 모델은 신호 멀티플렉싱이나 대칭 피드백 가중치가 필요로 하지 않으며, 이는 이러한 특성이 피질 학습에 필수적이지 않음을 시사한다.
• 네트워크의 파라미터는 직접적인 생리학적 해석이 가능하여 예측 코딩과 실험 신경생리학 간의 구체적 연결 고리를 제공한다.