[논문 리뷰] A simple normative network approximates local non-Hebbian learning in the cortex

Siavash Golkar, David Lipshutz외 3명|arXiv (Cornell University)|2020. 10. 23.

Neural dynamics and brain function참고 문헌 65인용 수 4

한 줄 요약

이 논문은 생물학적으로 타당한 온라인 학습 알고리즘인 Bio-RRR를 제안한다. 이 알고리즘은 RRMSE 및 CCA와 같은 감소질서 회귀(RRR) 목적함수를 국소 시냅스 가소성 규칙을 통해 근사한다. 칼슘 플랫폼 전위를 역전파 오차 신호와 연결함으로써皮질 처리를 모델링하고, 전역적 가중치 이동 없이 효율적이고 실시간으로 특징 추출을 가능하게 하며, 실제 데이터에서 최신 기술 수준의 방법과 경쟁 가능한 성능을 달성한다.

ABSTRACT

To guide behavior, the brain extracts relevant features from high-dimensional data streamed by sensory organs. Neuroscience experiments demonstrate that the processing of sensory inputs by cortical neurons is modulated by instructive signals which provide context and task-relevant information. Here, adopting a normative approach, we model these instructive signals as supervisory inputs guiding the projection of the feedforward data. Mathematically, we start with a family of Reduced-Rank Regression (RRR) objective functions which include Reduced Rank (minimum) Mean Square Error (RRMSE) and Canonical Correlation Analysis (CCA), and derive novel offline and online optimization algorithms, which we call Bio-RRR. The online algorithms can be implemented by neural networks whose synaptic learning rules resemble calcium plateau potential dependent plasticity observed in the cortex. We detail how, in our model, the calcium plateau potential can be interpreted as a backpropagating error signal. We demonstrate that, despite relying exclusively on biologically plausible local learning rules, our algorithms perform competitively with existing implementations of RRMSE and CCA.

연구 동기 및 목표

• 지침 신호가 생물학적으로 타당한 학습 규칙을 사용하여 감각 특징 추출을 어떻게 이끄는지 설명하는 정규 이론적 모델을 개발하는 것.
• 역전파에서 전역 오차 신호를 대체하여 국소적, 칼슘 플랫폼 의존성 가소성으로 전역 가중치 이동 문제를 해결하는 것.
• 신경망에서 국소 시냅스 업데이트로 구현할 수 있는 RRMSE 및 CCA에 대한 온라인 최적화 알고리즘을 유도하는 것.
• 피라미드 뉴런의 칼슘 플랫폼 전위를 정규 이론 프레임워크 내에서 역전파 오차 신호로 해석하는 것.
• 제안된 알고리즘이 실제 데이터 세트에서 기존 최신 기술 수준의 방법과 경쟁 가능한 성능을 달성하는지 보여주는 것.

제안 방법

• 저자들은 감소질서 회귀(RRR) 목적함수인 RRMSE 및 CCA를 포함한 가족에 대해, 저랭크 분해를 통해 투영 행렬을 매arameter화함으로써 오프라인 및 온라인 최적화 알고리즘을 유도한다.
• 해결책의 유일성과 안정성을 확보하기 위해 입력 투영 행렬에 화이트닝 제약 조건을 적용하여, Vx 및 Vy에 대한 제약 조건이 있는 최적화 문제로 이어진다.
• 알고리즘은 RRMSE(s=0)와 CCA(s=1) 사이를 보간하는 정규화 행렬 Σ⁻¹ = s·Cyy + (1−s)·In을 사용하여 두 목적함수를 위한 통합 프레임워크를 제공한다.
• 온라인 알고리즘은 국소 전조 및 후행 활동을 사용하여 시냅스 가중치를 업데이트하며, RRR 목적함수에 대한 경사 하강법에서 유도된 가소성 규칙을 사용한다.
• 칼슘 플랫폼 전위는 전역 오차 전파 없이 국소 학습을 가능하게 하는 역전파 오차 신호로 모델링되며, 시냅스 가소성에 영향을 준다.
• 신경망 구현은 전두엽 피질 마이크로순환구조를 반영한 이중층 아키텍처를 사용하며, 근위 시냅스는 피드포워드 입력에 의해 수정되고, 원위 dendrite는 지시 신호를 통합한다.

실험 결과

연구 질문

• RQ1 비-헤브시안이고 국소적인 가소성 규칙에 의존하는 피질 처리에 대해 정규 이론적 학습 프레임워크를 어떻게 확장할 수 있는가?
• RQ2 생물학적으로 타당한 신경망이 전역 오차 역전파 없이 국소 시냅스 업데이트만으로 RRMSE 및 CCA를 구현할 수 있는가?
• RQ3 피라미드 뉴런의 칼슘 플랫폼 전위를 학습 맥락에서 역전파 오차 신호로 어떻게 해석할 수 있는가?
• RQ4 피질 특징 추출 맥락에서 RRMSE 및 CCA 목적함수 사이의 관계는 무엇인가?
• RQ5 제안된 알고리즘이 생물학적 피질 생리학과 일치하면서도 최신 기술 수준의 방법과 경쟁 가능한 성능을 달성하는가?

주요 결과

• 제안된 Bio-RRR 알고리즘은 실제 데이터 세트에서 기존 RRMSE 및 CCA의 구현과 비교해 예측 정확도 및 상관관계 최대화 측면에서 경쟁 가능한 성능을 달성한다.
• 알고리즘은 큰 데이터 배치를 저장하지 않고도 온라인 학습을 성공적으로 구현하여 실시간 감각 처리에 적합하다.
• 칼슘 플랫폼 전위가 전역 오차 전파 문제를 생물학적으로 타당한 방식으로 해결할 수 있는 역전파 오차 신호를 인코딩함을 입증하였다.
• 알고리즘에서 유도된 시냅스 학습 규칙은 피질 및 해마의 피라미드 뉴런에서 관찰된 실험적 비-헤브시안 가소성과 유사하다.
• 단일 프레임워크가 연속적인 보간 파라미터 s를 통해 RRMSE 및 CCA를 통합할 수 있으며, s=0일 때는 RRMSE, s=1일 때는 CCA를 의미한다.
• 화이트닝 제약 조건 하에서 해가 유일하므로 고차원 감각 입력으로부터 안정적이고 해석 가능한 특징 추출이 보장된다.