[論文レビュー] Self-Adaptive Spike-Time-Dependent Plasticity of Metal-Oxide Memristors

M. Prezioso, Farshad Merrikh‐Bayat+3 more|arXiv (Cornell University)|May 20, 2015

Advanced Memory and Neural Computing参考文献 32被引用数 9

ひとこと要約

本論文は、初期導電度に依存しない合成シナプスの安定的変容を実現する自己適応型スパイク時間依存可塑性（STDP）を、Al2O3/TiO2-x金属酸化物メモリスタで初めて実験的に示した。フィードバック制御されたSTDPプロトコルを用い、初期導電度にかかわらずシナプス結合を安定化させる。この手法により、信頼性の高いニューロモルフィックコンピューティングに不可欠な安定的かつ自己調整型の可塑性が実現され、12×12クロスバー配列とコンactなメモリスタモデルを用いた数値シミュレーションで検証された。

ABSTRACT

Metal-oxide memristors have emerged as promising candidates for hardware implementation of artificial synapses - the key components of high-performance, analog neuromorphic networks - due to their excellent scaling prospects. Since some advanced cognitive tasks require spiking neuromorphic networks, which explicitly model individual neural pulses (spikes) in biological neural systems, it is crucial for memristive synapses to support the spike-time-dependent plasticity (STDP), which is believed to be the primary mechanism of Hebbian adaptation. A major challenge for the STDP implementation is that, in contrast to some simplistic models of the plasticity, the elementary change of a synaptic weight in an artificial hardware synapse depends not only on the pre-synaptic and post-synaptic signals, but also on the initial weight (memristor's conductance) value. Here we experimentally demonstrate, for the first time, STDP protocols that ensure self-adaptation of the average memristor conductance, making the plasticity stable, i.e. insensitive to the initial state of the devices. The experiments have been carried out with 200-nm Al2O3/TiO2-x memristors integrated into 12x12 crossbars. The experimentally observed self-adaptive STDP behavior has been complemented with numerical modeling of weight dynamics in a simple system with a leaky-integrate-and-fire neuron with a random spike-train input, using a compact model of memristor plasticity, fitted for quantitatively correct description of our memristors.

研究の動機と目的

• 初期メモリスタ導電度に依存するハードウェアシナプスにおけるスパイク時間依存可塑性（STDP）の不安定性を解消すること。
• さまざまな初期状態においても平均導電度を安定化させる自己適応型STDPプロトコルの開発。
• メモリスタシナプスを用いたスパイケイングニューロモルフィックネットワークの信頼性の高い実装を可能にすること。
• 12×12メモリスタクロスバーと数値モデリングを通じて、自己適応的挙動を実験的に検証すること。

提案手法

• 事前・事後のシナプススパイクのタイミングを調整することで、シナプス結合の変化を制御するフィードバック制御STDPプロトコルの実装。
• 12×12クロスバー配列に統合された200-nmのAl2O3/TiO2-xメモリスタを用い、実験的検証を実施。
• 実験データにフィットしたコンパクトなメモリスタ可塑性モデルの開発と、数値シミュレーションへの応用。
• ランダムなスパイクトレイン入力を用いたリーキーインテグレートアンドファイアニューロンのシミュレーションにより、自己適応型STDP下での結合重みの動的挙動をテスト。
• 導電度が時間経過とともに境界を逸脱せず安定するように、STDPプロトコルのキャリブレーションを実施。
• 実験結果と数値シミュレーションの比較を通じて、コンパクトモデルの定量的正確性を確認。

実験結果

リサーチクエスチョン

• RQ1 金属酸化物メモリスタにおけるSTDPを、初期導電度値に依存しない自己適応型にできるか？
• RQ2 提案されたSTDPプロトコルは、さまざまな初期導電度状態においてもシナプス結合を安定化させるか？
• RQ3 実際の神経入力パターン下で、自己適応型STDPプロトコルはどのように動作するか？
• RQ4 コンパクトなメモリスタモデルは、観察された自己適応型可塑性挙動を正確に再現できるか？
• RQ5 自己適応型STDPプロトコル下で、シナプス結合の長期的安定性はいかがな状態か？

主な発見

• 自己適応型STDPプロトコルは、広範な初期導電度値においてメモリスタの平均導電度を安定化させることに成功した。
• 12×12クロスバー配列からの実験結果は、ドリフトや飽和を示さず、一貫した導電度制御を示した。
• リーキーインテグレートアンドファイアニューロンを用いた数値シミュレーションにより、ランダムなスパイクトレイン入力下でも安定した重み動的挙動が確認された。
• コンパクトなメモリスタモデルは実験データを正確に記述でき、可塑性挙動の信頼性のあるシミュレーションを可能にした。
• 外部フィードバック制御に依存せず、内在的デバイスダイナミクスとタイミング制御に依存した自己調整が実現された。
• この手法により、従来のSTDPの主要な制限要因を克服し、ハードウェアニューロモルフィックシステムにおけるSTDPの強固でスケーラブルな実装が可能になった。