[논문 리뷰] Learning efficient backprojections across cortical hierarchies in real time

Kevin Max, Laura Kriener외 5명|arXiv (Cornell University)|2022. 12. 20.

Neural dynamics and brain function인용 수 6

한 줄 요약

이 논문은 가중치 전송이나 단계적 학습이 필요 없이 깊은 코어티컬 계층에서 효율적인 책임 할당을 위한 생물학적으로 타당한 방법인 Phaseless Alignment Learning (PAL)을 제안한다. 내재된 신경세포 노이즈를 오차 정보의 수단으로 활용함으로써, PAL은 계층 간에 연속적이고 국소적이며 실시간으로 피드백 가중치를 학습할 수 있게 하여, 무작위 피드백보다 더 적은 수의 뉴런과 더 나은 잠재 표현을 사용해 분류 작업에서 성능을 크게 향상시킨다.

ABSTRACT

Models of sensory processing and learning in the cortex need to efficiently assign credit to synapses in all areas. In deep learning, a known solution is error backpropagation, which however requires biologically implausible weight transport from feed-forward to feedback paths. We introduce Phaseless Alignment Learning (PAL), a bio-plausible method to learn efficient feedback weights in layered cortical hierarchies. This is achieved by exploiting the noise naturally found in biophysical systems as an additional carrier of information. In our dynamical system, all weights are learned simultaneously with always-on plasticity and using only information locally available to the synapses. Our method is completely phase-free (no forward and backward passes or phased learning) and allows for efficient error propagation across multi-layer cortical hierarchies, while maintaining biologically plausible signal transport and learning. Our method is applicable to a wide class of models and improves on previously known biologically plausible ways of credit assignment: compared to random synaptic feedback, it can solve complex tasks with less neurons and learn more useful latent representations. We demonstrate this on various classification tasks using a cortical microcircuit model with prospective coding.

연구 동기 및 목표

• 인공 신경망에서 백프로파게이션의 생물학적으로 비현실적인 요구사항, 특히 가중치 전송과 이산적인 전방/후방 단계를 해결하기 위해.
• 항상 활성화된 가소성과 국소 정보만을 사용하는 연속시간, 완전한 동적 학습 시스템을 개발하기 위해.
• 국소적으로 이용 가능한 신호와 내재된 노이즈만을 사용하여 깊은 코어티컬 계층에서 효율적인 오차 전파를 가능하게 하기 위해.
• 랜덤 또는 고정 피드백 연결에 의존하지 않고도 유용한 피드백 가중치를 학습함으로써 깊은 네트워크에서의 책임 할당을 향상시키기 위해.

제안 방법

• PAL은 누설 적분기 뉴런을 사용하는 비율 기반 연속시간 동적 시스템이며, 국소 정보를 사용해 실시간으로 시냅스 가중치를 갱신한다.
• 신경세포 노이즈(오르누슈-울렌벡 과정)를 오차 정보의 수단으로 활용함으로써, 명시적 오차 역전파 없이도 피드백 가중치 학습이 가능하다.
• 막막 전위의 고역통과 필터링을 통한 전망적 인코딩 메커니즘이 도입되어 입력에 대해 준순순응 반응이 가능하고, 연속적 학습이 가능해진다.
• 피드백 가중치는 노이즈 조절된 오차 신호에 기반해 상향 연결과 상향 가중치를 정렬하는 국소 학습 규칙을 사용해 갱신된다.
• 학습 단계를 나누지 않고 항상 가소성을 유지함으로써 단계적 학습을 피하며, 버퍼링이나 추론 및 학습 단계를 번갈아 사용할 필요가 없다.
• 프레임워크는 코어티컬 마이크로서킷 모델에 구현되었으며, 노이즈를 전략적 계층에 주입한 수정된 LeNet-5 아키텍처를 사용해 MNIST와 CIFAR-10에서 검증되었다.

실험 결과

연구 질문

• RQ1 가중치 전송이나 이산적 학습 단계 없이 깊은 코어티컬 계층에서 책임 할당을 달성할 수 있는가?
• RQ2 내재된 신경세포 노이즈를 오차 정보의 기능적 수단으로 활용하여 피드백 가중치 학습을 가능하게 할 수 있는가?
• RQ3 성능와 샘플 효율성 측면에서 PAL은 랜덤 피드백 또는 고정 피드백 정렬과 비교해 어떻게 다른가?
• RQ4 최소한의 아키텍처 변경으로 깊은 네트워크에서 유용한 잠재 표현을 학습할 수 있는가?
• RQ5 PAL은 CIFAR-10과 같은 더 큰 벤치마크로 확장 가능할 수 있으며, 생물학적으로 타당한 신호 전송과 학습 역학을 유지할 수 있는가?

주요 결과

• PAL은 복잡한 작업을 해결하기 위해 더 적은 수의 뉴런을 사용해 MNIST 및 CIFAR-10 분류 작업에서 랜덤 피드백보다 뛰어난 성능을 달성한다.
• 이 방법은 항상 활성화된 가소성과 함께 연속시간, 단계 없는 프레임워크에서 다수의 계층에 걸쳐 효율적인 오차 전파를 가능하게 한다.
• 노이즈를 정보 수단으로 사용함으로써 PAL은 가중치 전송이 필요 없으며, 역전파와 같은 생물학적으로 비현실적인 메커니즘을 피할 수 있다.
• PAL을 통해 학습된 잠재 표현에 기반해 훈련된 선형 분류기는 높은 테스트 정확도를 달성하여 학습된 특징의 품질을 입증한다.
• 알고리즘은 더 큰 네트워크, 특히 연속시간 버전의 LeNet-5로 효과적으로 확장되며, 안정적인 수렴과 향상된 일반화 성능을 보인다.
• 노이즈 없이도 검증함으로써 공정한 비교가 가능했으며, PAL의 성능 향상 요인이 노이즈 유도 효과가 아니라 학습 메커니즘에 기인함을 확인했다.