[논문 리뷰] Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity

Thomas Mesnard, Wulfram Gerstner외 1명|arXiv (Cornell University)|2016. 12. 09.

Advanced Memory and Neural Computing참고 문헌 12인용 수 13

한 줄 요약

이 논문은 대비 허브성 플라스티시티를 갖춘 에너지 기반 모델에서 평형 전파를 사용하여 깊이 있는 스파iking 신경망을 위한 생물학적으로 타당한 학습 프레임워크를 제안한다. 속도 뉴런 대신 누설 적분-화염 뉴런을 사용하고, 저역통과 필터링을 통해 발화 빈도를 추정함으로써, 국소 시냅스 플라스티시티만을 사용하여 비선형 회귀 작업을 성공적으로 학습한다. 이는 생물학적으로 현실적인 조건 하에서 스파킹 뉴런을 사용한 딥 러닝의 가능성을 입증한다.

ABSTRACT

In machine learning, error back-propagation in multi-layer neural networks (deep learning) has been impressively successful in supervised and reinforcement learning tasks. As a model for learning in the brain, however, deep learning has long been regarded as implausible, since it relies in its basic form on a non-local plasticity rule. To overcome this problem, energy-based models with local contrastive Hebbian learning were proposed and tested on a classification task with networks of rate neurons. We extended this work by implementing and testing such a model with networks of leaky integrate-and-fire neurons. Preliminary results indicate that it is possible to learn a non-linear regression task with hidden layers, spiking neurons and a local synaptic plasticity rule.

연구 동기 및 목표

• 스파iking 신경망에서 생물학적으로 타당한 플라스티시티를 사용해 오차 역전파를 가능하게 하여 딥 러닝과 신경과학 사이의 격차를 메우는 것.
• 원래 속도 기반 뉴런을 위해 개발된 평형 전파가 누설 적분-화염(LIF) 뉴런으로 이루어진 네트워크로 확장될 수 있는지 테스트하는 것.
• 비선형 회귀 작업에서 스파킹 네트워크에서 대비 허브성 플라스티시티의 성능을 평가하는 것.
• 생물학적으로 현실적인 환경에서 뉴런의 동역학과 빈도 추정이 학습 안정성과 정확도에 미치는 영향을 조사하는 것.

제안 방법

• 입력 전류를 고정한 전진 단계와 출력 뉴런에 세밀한 자극을 가한 역행 단계를 갖는 이중 단계 동역학을 사용하여, 누설 적분-화염(LIF) 뉴런 네트워크에 평형 전파를 적용한다.
• 큰 시간 상수를 갖는 저역통과 필터링을 통해 스파이크 트레인을 필터링하여 대비 허브성 학습 규칙에 사용할 발화 빈도를 추정한다.
• 전진 단계와 역행 단계 동안의 발화 빈도 상관관계의 차이에 기반해 가중치를 갱신하는 국소 시냅스 플라스티시티 규칙을 구현한다.
• 대칭적인 가중치와 외부 편향 항을 갖는 에너지 함수를 사용하여 네트워크의 동역학을 정의하며, 고정점은 네트워크의 예측에 해당한다.
• 1ms 시간 간격의 오일러 적분을 사용하여 LIF 뉴런의 동역학을 시뮬레이션하며, 막전위, 재설정 기간, 시냅스 후 전위를 포함한다.
• 각 전진 및 역행 단계 이후에 학습률을 수전단의 인덱스 제곱근의 역수로 스케일링하여 학습을 안정화시킨다.

실험 결과

연구 질문

• RQ1 대비 허브성 플라스티시티를 갖춘 평형 전파가 스파킹 뉴런 네트워크에 성공적으로 구현될 수 있는가?
• RQ2 동일한 학습 규칙 하에서 스파킹 네트워크의 성능이 속도 기반 네트워크와 비교해 어떻게 되는가?
• RQ3 스파킹 네트워크에서 발화 빈도 추정의 정확도가 학습 수렴과 성능에 얼마나 큰 영향을 미치는가?
• RQ4 국소적이고 생물학적으로 타당한 플라스티시티 규칙만을 사용하여 깊이 있는 스파킹 네트워크에서 비선형 함수 근사가 가능한가?
• RQ5 전진 단계에서 고정점 수렴의 품질이 스파킹 뉴런을 사용한 학습 성공에 어떤 역할을 하는가?

주요 결과

• 누설 적분-화염 뉴런 네트워크와 국소 대비 허브성 플라스티시티 규칙을 사용하여 비선형 회귀 작업을 성공적으로 학습하였다.
• 스파킹 뉴런을 사용한 학습 성능은 속도 기반 뉴런보다 정확도가 떨어지며, 이는 전진 단계에서 고정점 발화 빈도 추정이 최적화되지 않았기 때문일 것이다.
• 저역통과 필터링을 통해 스파이크 트레인을 처리한 결과, 학습 규칙에 사용할 수 있는 타당한 발화 빈도 추정이 가능했으며, 이는 명시적 빈도 코드 없이도 플라스티시티를 가능하게 하였다.
• 은닉층이 없이선 네트워크가 작업을 학습하지 못함으로써, 모델에서 비선형 표현의 필요성을 확인하였다.
• 전진 단계 상관관계에서 역행 단계 상관관계를 빼는 학습 규칙은 학습을 안정화시키며, 국소 전·후단 활동에 기반한 가중치 갱신을 가능하게 하였다.
• 도전 과제가 있었음에도 불구하고, 결과적으로 평형 전파와 국소 플라스티시티를 사용함으로써 생물학적으로 타당한 조건 하에서 스파킹 뉴런을 사용한 딥 러닝의 가능성을 입증하였다.