[논문 리뷰] FNS: an event-driven spiking neural network simulator based on the LIFL neuron model

Gianluca Susi, Pilar Garcés외 5명|arXiv (Cornell University)|2018. 01. 02.

Advanced Memory and Neural Computing참고 문헌 71인용 수 5

한 줄 요약

FNS는 LIFL 뉴런 모델 기반의 이벤트 주도 스파iking 신경망 시뮬레이터로, 희박한 신경 활동을 활용하여 대규모 뇌 시뮬레이션을 효율적으로 구현한다. 이는 이질적인 뉴런 모듈, 지연 연결, 가소성 시냅스, 멀티스레드 병렬 처리를 지원하며, 시뮬레이션된 뇌 하위망 활동과 실제 MEG 기능 데이터 간의 강력한 일치를 보여준다.

ABSTRACT

Limitations in processing capabilities and memory of today's computers make spiking neuron-based (human) whole-brain simulations inevitably characterized by a compromise between bio-plausibility and computational cost. It translates into brain models composed of a reduced number of neurons and a simplified neuron's mathematical model, leading to the search for new simulation strategies. Taking advantage of the sparse character of brain-like computation, the event-driven technique could represent a way to carry out efficient simulation of large-scale Spiking Neural Networks (SNN). The recent Leaky Integrate-and-Fire with Latency (LIFL) spiking neuron model is event-driven compatible and exhibits some realistic neuronal features, opening new avenues for brain modelling. In this paper we introduce FNS, the first LIFL-based spiking neural network framework, which combines spiking/synaptic neural modelling with the event-driven approach, allowing us to define heterogeneous neuron modules and multi-scale connectivity with delayed connections and plastic synapses. In order to allow multi-thread implementations a novel parallelization strategy is also introduced. This paper presents mathematical models, software implementation and simulation routines on which FNS is based. Finally, a brain subnetwork is modeled on the basis of real brain structural data, and the resulting simulated activity is compared with associated brain functional (source-space MEG) data, demonstrating a good matching between the activity of the model and that of the experimetal data. This work aims to lay the groundwork for future event-driven based personalised brain models.

연구 동기 및 목표

• 이벤트 주도 시뮬레이션을 활용하여 대규모 스파킹 신경망(SNN) 시뮬레이션의 계산 비용을 줄이기 위해.
• 이벤트 주도 동역학과 스파이크 시점에 의존하는 가소성(STDP)를 지원하는 생물학적으로 현실적인 LIFL 뉴런 모델과 호환되는 시뮬레이터를 개발하기 위해.
• 지연 연결과 가소성 시냅스를 지원하는 다스케일, 이질적인 뇌 네트워크 모델링을 가능하게 하기 위해.
• 대규모 시뮬레이션에서 다중 처리 단위에서의 실행을 위한 효율적인 병렬 처리 전략을 구현하기 위해.
• 실제 뇌 하위망의 소스 공간 MEG 데이터와 비교하여 모델을 검증하기 위해.

제안 방법

• FNS는 뉴런이 스파이크를 수신하거나 방출할 때만 업데이트하는 이벤트 주도 시뮬레이션 방식을 사용하여 계산 부담을 감소시킨다.
• 누설 적분-화염(LIFL) 뉴런 모델을 적용하여 정밀한 스파이크 시점과 이벤트 주도 시뮬레이션과의 본질적 호환성을 확보한다.
• 시뮬레이터는 다스케일 연결성을 지원하며, 감마 분포로 모델링된 지연 축삭 전도와 STDP를 갖춘 가소성 시냅스를 포함한다.
• 새로운 병렬 처리 전략을 도입하여 네트워크를 노드로 분할하고, 노드 간 스파이크 통신을 관리하기 위한 BOP(Bulk-Operation-Period) 메커니즘을 사용한다.
• 스파이크 큐는 시간순으로 정렬되며, 노드 간 스파이크는 외부 연소 이벤트(outer_burning_event) 목록을 통해 스레드 간 정확한 동기화를 보장한다.
• 내부 및 모듈 간 시냅스 가중치의 초기화에 정규 분포를 사용하고, 축삭 지연은 감마 분포로 모델링한다.

실험 결과

연구 질문

• RQ1 LIFL 모델 기반의 이벤트 주도 SNN 시뮬레이터는 생물학적으로 타당성이 높은 대규모 뇌 네트워크 시뮬레이션을 효율적으로 수행할 수 있는가?
• RQ2 실제 구조적 커넥톰 데이터에 제약을 받는 상황에서 FNS 시뮬레이터는 기능적 뇌 동역학을 얼마나 잘 재현할 수 있는가?
• RQ3 기존 시계 주도 방법에 비해 이벤트 주도 접근 방식은 계산 비용을 얼마나 줄이는가?
• RQ4 실제 뇌 해부학적 구조에서 파생된 하위망을 사용하여 시뮬레이터가 실험적으로 관측된 MEG 신호를 정확히 재현할 수 있는가?
• RQ5 제안된 멀티스레드 병렬 처리 전략은 여러 처리 단위로 확장할 때 얼마나 효과적인가?

주요 결과

• FNS 시뮬레이터는 이벤트 주도, LIFL 기반의 SNN 프레임워크를 성공적으로 구현하여 이질적인 뉴런 모듈, 지연 연결, 가소성 시냅스를 지원한다.
• 이벤트 주도 실행 덕분에 주기적 업데이트를 피하고 메모리 사용을 줄여 효율적인 계산을 달성한다.
• 뇌 하위망에서의 시뮬레이션 활동이 실제 소스 공간 MEG 데이터와 강력한 일치를 보이며, 기능적 관련성을 검증한다.
• 감마 분포로 모델링된 지연은 축삭 전도 시간을 현실적으로 모델링하여 네트워크 동역학의 정밀도를 향상시킨다.
• 멀티스레드 병렬 처리 전략은 노드 수준의 계산을 분리하고 노드 간 스파이크 전달을 관리함으로써 대규모 네트워크의 확장 가능한 시뮬레이션을 가능하게 한다.
• LIFL 모델에 구현된 STDP와 정밀한 스파이크 시점은 생물학적으로 현실적인 학습과 동적 네트워크 행동을 가능하게 한다.