[논문 리뷰] Self-Adaptive Spike-Time-Dependent Plasticity of Metal-Oxide Memristors

M. Prezioso, Farshad Merrikh‐Bayat외 3명|arXiv (Cornell University)|2015. 05. 20.

Advanced Memory and Neural Computing참고 문헌 32인용 수 9

한 줄 요약

이 논문은 초기 도통도에 관계없이 합성 시냅스 가중치가 안정화되도록 하는 피드백 제어된 STDP 프로토콜을 사용하여, Al2O3/TiO2-x 금속 산화물 메모리스터에서 처음으로 자기 적응형 스파ike-시간 의존 성능 변화(STDP)를 실험적으로 입증한다. 이 방법은 신뢰할 수 있는 뉴로모픽 계산을 위해 필수적인 안정적이고 자기 조절 가능한 성능 변화를 보장하며, 12×12 크로스바 어레이와 단순화된 메모리스터 모델을 활용한 수치 모델링을 통해 검증되었다.

ABSTRACT

Metal-oxide memristors have emerged as promising candidates for hardware implementation of artificial synapses - the key components of high-performance, analog neuromorphic networks - due to their excellent scaling prospects. Since some advanced cognitive tasks require spiking neuromorphic networks, which explicitly model individual neural pulses (spikes) in biological neural systems, it is crucial for memristive synapses to support the spike-time-dependent plasticity (STDP), which is believed to be the primary mechanism of Hebbian adaptation. A major challenge for the STDP implementation is that, in contrast to some simplistic models of the plasticity, the elementary change of a synaptic weight in an artificial hardware synapse depends not only on the pre-synaptic and post-synaptic signals, but also on the initial weight (memristor's conductance) value. Here we experimentally demonstrate, for the first time, STDP protocols that ensure self-adaptation of the average memristor conductance, making the plasticity stable, i.e. insensitive to the initial state of the devices. The experiments have been carried out with 200-nm Al2O3/TiO2-x memristors integrated into 12x12 crossbars. The experimentally observed self-adaptive STDP behavior has been complemented with numerical modeling of weight dynamics in a simple system with a leaky-integrate-and-fire neuron with a random spike-train input, using a compact model of memristor plasticity, fitted for quantitatively correct description of our memristors.

연구 동기 및 목표

• 초기 메모리스터 도통도에 의존하는 하드웨어 시냅스에서의 스파이크-시간 의존 성능 변화(STDP)의 불안정성 문제를 해결하기 위해.
• 다양한 초기 상태에서 평균 도통도가 안정을 유지할 수 있도록 자기 적응형 STDP 프로토콜을 개발하기 위해.
• 메모리스터 시냅스를 활용한 신뢰성 있는 스파iking 뉴로모픽 네트워크의 실현을 위해.
• 12×12 메모리스터 크로스바 어레이에서 자기 적응형 행동을 실험적으로 검증하고, 수치 모델링을 통해 검증하기 위해.

제안 방법

• 사전 및 사후 시냅스 스파이크 타이밍을 조절하여 합성 시냅스 가중치 변화를 규제하는 피드백 제어된 STDP 프로토콜의 구현.
• 실험적 검증을 위해 12×12 크로스바 어레이에 통합된 200-nm Al2O3/TiO2-x 메모리스터의 사용.
• 수치 시뮬레이션을 위한 실험 데이터에 맞춘 단순화된 메모리스터 성능 변화 모델의 개발.
• 무작위 스파이크 트레인 입력을 가진 리크-인티그레이트-앤드-파이어 뉴런의 시뮬레이션을 통해 자기 적응형 STDP 하에서의 가중치 동역학 테스트.
• 도통도가 시간이 지남에 따라 유한하고 안정적으로 유지되도록 STDP 프로토콜 校정.
• 실험 결과와 수치 시뮬레이션을 비교하여 단순화된 모델의 정량적 정확도를 확인.

실험 결과

연구 질문

• RQ1 금속 산화물 메모리스터에서 STDP를 초기 도통도 값에 대해 자기 적응형으로 만들 수 있는가?
• RQ2 제안된 STDP 프로토콜이 다양한 초기 도통도 상태에서 합성 시냅스 가중치를 안정화하는가?
• RQ3 실제 신경 입력 패턴 하에서 자기 적응형 STDP 프로토콜의 성능은 어떠한가?
• RQ4 단순화된 메모리스터 모델이 관측된 자기 적응형 성능 변화 행동을 정확하게 재현할 수 있는가?
• RQ5 자기 적응형 STDP 프로토콜 하에서 합성 시냅스 가중치의 장기적 안정성은 어떠한가?

주요 결과

• 자기 적응형 STDP 프로토콜은 다양한 초기 도통도 값에서 메모리스터의 평균 도통도를 성공적으로 안정화시킨다.
• 12×12 크로스바 어레이에서의 실험 결과는 드리프트 또는 포화 없이 일관된 도통도 조절을 보였다.
• 리크-인티그레이트-앤드-파이어 뉴런을 사용한 수치 시뮬레이션은 무작위 스파이크 트레인 입력 하에서 안정적인 가중치 동역학을 확인했다.
• 단순화된 메모리스터 모델은 실험 데이터를 정확하게 기술하여 성능 변화 행동의 신뢰할 수 있는 시뮬레이션을 가능하게 했다.
• 외부 피드백 제어 없이도 내재된 장치 동역학과 타이밍 제어에 기반한 자기 조절이 가능했다.
• 이 방법은 전통적인 STDP의 주요 한계를 극복하고, 하드웨어 뉴로모픽 시스템에서 STDP의 강력하고 확장 가능한 구현을 가능하게 했다.