[논문 리뷰] Spike-based causal inference for weight alignment

Jordan Guerguiev, Konrad P. Körding외 1명|arXiv (Cornell University)|2019. 10. 03.

Neural dynamics and brain function참고 문헌 18인용 수 11

한 줄 요약

이 논문은 생물학적 가중치 운반 문제를 해결하기 위해 회귀 불연속 설계(RDD) 기반의 스파iking 신경망 학습 규칙을 제안한다. 이는 피드백 가중치가 포워드 가중치와 일치하도록 하여 기울기 추정을 가능하게 한다. 자극의 불연속성 특성을 활용해 뉴런 간의 인과적 영향을 추정함으로써, CIFAR-10, Fashion-MNIST, SVHN, VOC 데이터셋에서 피드백 정렬보다 뛰어난 가중치 일치 및 향상된 학습 성능을 달성한다.

ABSTRACT

In artificial neural networks trained with gradient descent, the weights used for processing stimuli are also used during backward passes to calculate gradients. For the real brain to approximate gradients, gradient information would have to be propagated separately, such that one set of synaptic weights is used for processing and another set is used for backward passes. This produces the so-called "weight transport problem" for biological models of learning, where the backward weights used to calculate gradients need to mirror the forward weights used to process stimuli. This weight transport problem has been considered so hard that popular proposals for biological learning assume that the backward weights are simply random, as in the feedback alignment algorithm. However, such random weights do not appear to work well for large networks. Here we show how the discontinuity introduced in a spiking system can lead to a solution to this problem. The resulting algorithm is a special case of an estimator used for causal inference in econometrics, regression discontinuity design. We show empirically that this algorithm rapidly makes the backward weights approximate the forward weights. As the backward weights become correct, this improves learning performance over feedback alignment on tasks such as Fashion-MNIST, SVHN, CIFAR-10 and VOC. Our results demonstrate that a simple learning rule in a spiking network can allow neurons to produce the right backward connections and thus solve the weight transport problem.

연구 동기 및 목표

• 기울기 추정을 위해 역방향 가중치가 순방향 가중치를 정확히 반영해야 하는 생물학적 학습에서의 가중치 운반 문제를 해결하기 위해.
• 정확한 가중치 운반을 요구하지 않고도 피드백 가중치가 순방향 가중치와 일치하도록 할 수 있는 생물학적으로 타당한 학습 규칙을 개발하기 위해.
• 뉴런의 불연속적 스파이크 행동을 시냅스 가소성에서의 인과 추론을 위한 천연 메커니즘으로 활용하기 위해.
• 인과 추정을 통해 대칭적 일치 비용 함수를 최소화하여 깊이 있는 스파이킹 네트워크의 훈련 성능을 향상시키기 위해.

제안 방법

• 이 방법은 인과 추론 기법인 회귀 불연속 설계(RDD)를 적용하여 전시냅스 스파이크가 후시냅스 활동에 미치는 인과적 영향을 추정한다.
• 스파이크 존재 또는 부재를 이元적 치료로 삼는 이차 실험 설정을 위해 임계값이 적용된 스파이크 불연속성을 사용한다.
• 피드백 가중치 갱신 규칙은 대칭적 일치 비용 함수 내의 자기주의 항을 최소화하는 RDD 추정기의 특수한 경우로 유도된다.
• 알고리즘은 대칭적 일치 비용 함수 내의 $ρ_{\text{self}}$ 항을 최소화하며, 이는 순방향 및 피드백 가중치 간의 방향적 일치를 측정한다.
• 표준 백프로파게이션을 사용한 훈련과 RDD를 통한 피드백 가중치 갱신을 위한 별도의 순방향 및 피드백 경로를 갖는 스파이킹 네트워크에 이 방법을 구현한다.
• 이 접근법은 억제성 간뇌세포를 통해 다중시냅스 효과를 포착할 수 있으므로 원칙적으로 Dale의 원칙과도 호환된다.

실험 결과

연구 질문

• RQ1 뉴런의 불연속적 스파이크 행동을 활용해 인과적 시냅스 영향을 추정하고 가중치 일치를 가능하게 할 수 있는가?
• RQ2 RDD 기반 학습 규칙이 깊이 있는 스파이킹 네트워크에서 피드백 정렬을 능가하는가?
• RQ3 제안된 방법이 다양한 네트워크 레이어에서 피드백 가중치를 순방향 가중치와 얼마나 잘 일치시키는가?
• RQ4 이 인과 추론 접근법은 생물학적으로 타당한 방식으로 가중치 운반 문제를 해결할 수 있는가?

주요 결과

• RDD 피드백 훈련은 특히 피드백 정렬이 실패하는 초기 레이어에서 피드백 및 순방향 가중치 간의 부호 일치를 크게 향상시킨다.
• 특히 더 깊은 레이어에서 RDD 피드백 훈련은 피드백 정렬보다 대칭적 일치 비용 함수 내의 $ρ_{\text{self}}$ 항을 더 효과적으로 감소시킨다.
• CIFAR-10, Fashion-MNIST, SVHN, VOC 데이터셋에서 RDD 피드백 훈련은 전체 백프로파게이션과 비교해 테스트 오차 성능이 유사하다.
• 알고리즘은 피드백 정렬 및 최근 Akrout et al. (2019)의 가중치 일치 방법보다 가중치 일치 및 학습 정확도 측면에서 뛰어나다.
• 피드백 가중치는 부호뿐 아니라 순방향 가중치의 크기까지도 일치시키며, 하드웨어로 고정된 부호 대칭성보다 뛰어나다.
• 이 접근법은 이론적으로 Dale의 원칙과 호환되며, 중간 간뇌세포를 통해 흥분성 및 억제성 효과를 모두 모델링할 수 있다.