[논문 리뷰] An Accelerated Analog Neuromorphic Hardware System Emulating NMDA- and Calcium-Based Non-Linear Dendrites

Johannes Schemmel, Laura Kriener외 2명|arXiv (Cornell University)|2017. 03. 21.

Advanced Memory and Neural Computing참고 문헌 31인용 수 6

한 줄 요약

이 논문은 뇌피질 Pyramidal 뉴런의 생물학적으로 현실적인 비선형 수상돌기 처리를 가속화하는 65 nm CMOS 뉴로모픽 하드웨어 시스템을 제시한다. 이 시스템은 NMDA 및 칼슘 스파이크를 포함한 다양한 스파이크 유형을 모사할 수 있으며, 다세포 뉴런 모델과 가소성 메커니즘을 통합함으로써 1,000× 실시간 속도에서 빠르고 저전력이며 확장 가능한 스파iking 신경망의 공명 감지 및 학습 시뮬레이션을 가능하게 한다.

ABSTRACT

This paper presents an extension of the BrainScaleS accelerated analog neuromorphic hardware model. The scalable neuromorphic architecture is extended by the support for multi-compartment models and non-linear dendrites. These features are part of a \SI{65}{ ano\meter} prototype ASIC. It allows to emulate different spike types observed in cortical pyramidal neurons: NMDA plateau potentials, calcium and sodium spikes. By replicating some of the structures of these cells, they can be configured to perform coincidence detection within a single neuron. Built-in plasticity mechanisms can modify not only the synaptic weights, but also the dendritic synaptic composition to efficiently train large multi-compartment neurons. Transistor-level simulations demonstrate the functionality of the analog implementation and illustrate analogies to biological measurements.

연구 동기 및 목표

• 뇌피질 Pyramidal 뉴런을 더 정확히 모사하기 위해 BrainScaleS 뉴로모픽 플랫폼에 다세포, 비선형 수상돌기 처리 기능을 추가한다.
• 단일 뉴런 내에서 NMDA 플랫폼 전위, 칼슘 스파이크 및 나트륨 스파이크와 같은 복잡한 스파이크 유형을 모사할 수 있도록 한다.
• 시냅스 가중치뿐 아니라 수상돌기 조성까지 수정할 수 있는 생물학적으로 타당한 가소성 메커니즘을 지원하여 효율적인 학습을 가능하게 한다.
• 아날로그 하드웨어를 사용하여 복잡한 시간 동역학을 갖는 스파iking 네트워크의 고속, 저전력 시뮬레이션을 실현한다.
• 계산 신경과학 및 머신러닝 분야에서 가설 검증을 위한 확장 가능하고 보편적인 실험 플랫폼을 구축한다.

제안 방법

• 다세포 뉴런 모델을 위한 전용 아날로그 회로를 통합하여 BrainScaleS 2의 가속화된 아날로그 뉴로모픽 하드웨어를 확장한다.
• 비선형 수상돌기 통합 및 스파이크 생성을 재현하기 위해 NMDA 및 전압 감응 칼슘 채널용 아날로그 회로를 구현한다.
• 국소적 가소성 처리 유닛을 통합하여 실시간으로 작동하는 생물학적으로 타당한 학습 규칙을 통해 시냅스 가중치와 수상돌기 조성을 조정할 수 있도록 한다.
• 연속 시간 동역학을 유지하면서 아날로그 계산을 사용해 1,000× 실시간 속도로 시스템을 운영하도록 설계한다.
• 저전력 및 고집적 밀도를 확보하기 위해 65 nm CMOS 공정을 활용하였으며, 뉴런 세포소의 면적 오버헤드는 0.5% 미만이다.
• 트랜지스터 수준의 시뮬레이션을 통해 기능성을 검증하였으며, 생물학적 측정치와 일치하는 아날로그 행동을 재현함을 입증하였다.

실험 결과

연구 질문

• RQ1 아날로그 뉴로모픽 하드웨어는 다세포 뇌피질 뉴런의 시냅스 입력 비선형 통합을 효율적으로 모사할 수 있는가?
• RQ2 NMDA 및 칼슘 스파이크를 어떻게 정확하게 하드웨어에서 모델링하여 생물학적 공명 감지를 재현할 수 있는가?
• RQ3 가소성 메커니즘은 시냅스를 넘어서 수상돌기 조성 변화까지 포함하여 하드웨어 플랫폼에서 얼마나 확장할 수 있는가?
• RQ4 이러한 시스템은 복잡한 생물학적으로 현실적인 동역학을 지원하면서도 고속(1,000× 실시간)을 유지할 수 있는가?
• RQ5 웨이퍼 스케일 뉴로모픽 시스템에 다세포 비선형 수상돌기를 통합할 경우, 확장성과 에너지 효율성은 어떠한가?

주요 결과

• 하드웨어 시스템은 단일 뉴런 내에서 NMDA 플랫폼 전위, 칼슘 스파이크 및 나트륨 스파이크를 성공적으로 모사하여 기저 및 수상돌기 세포소 간의 공명 감지를 가능하게 한다.
• 트랜지스터 수준의 시뮬레이션을 통해 아날로그 회로의 구현이 비선형 통합 및 스파이크 유도와 같은 생물학적 수상돌기 행동의 핵심 특징을 재현함을 확인하였다.
• 시스템은 실시간 시뮬레이션 대비 1,000×의 속도 향상을 달성하면서도 연속 시간 동역학과 스파이크 기반 동역학을 유지한다.
• 다세포 확장에 따른 면적 오버헤드는 세포소당 총 뉴런 및 시냅스 회로 면적의 0.5% 미만이다.
• 시냅스 전달당 에너지 소비는 약 10 pJ로 추정되며, 저전력 뉴로모픽 운영과 일치한다.
• 시냅스 가중치와 수상돌기 채널 조성 모두를 수정할 수 있는 융통성 있고 실시간 가소성 기능을 지원하여 생물학적으로 타당한 학습을 실현한다.