[論文レビュー] Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity

Thomas Mesnard, Wulfram Gerstner+1 more|arXiv (Cornell University)|Dec 9, 2016

Advanced Memory and Neural Computing参考文献 12被引用数 13

ひとこと要約

本稿では、対照的ハブリアン可塑性を用いたエネルギーモデルにおける均衡伝搬を用いて、生物学的に妥当な学習フレームワークを、深層スパikingニューラルネットワークに提案する。レートニューロンの代わりにリーク型積分・ファイア（LIF）ニューロンを用い、低域フィルタリングによるスパイク列のフィルタリングで発火レートを推定することで、局所的シナプス可塑性のみを用いて非線形回帰タスクを効果的に学習した。これは、生物学的に現実的な制約下でも深層学習がスパイキングニューロンで可能であることを示している。

ABSTRACT

In machine learning, error back-propagation in multi-layer neural networks (deep learning) has been impressively successful in supervised and reinforcement learning tasks. As a model for learning in the brain, however, deep learning has long been regarded as implausible, since it relies in its basic form on a non-local plasticity rule. To overcome this problem, energy-based models with local contrastive Hebbian learning were proposed and tested on a classification task with networks of rate neurons. We extended this work by implementing and testing such a model with networks of leaky integrate-and-fire neurons. Preliminary results indicate that it is possible to learn a non-linear regression task with hidden layers, spiking neurons and a local synaptic plasticity rule.

研究の動機と目的

• スパイキングニューラルネットワークにおける誤差逆伝搬を、生物学的に妥当な可塑性で可能にすることで、深層学習と神経科学のギャップを埋めること。
• 元々レートベースのニューロンを想定して開発された均衡伝搬が、リーク型積分・ファイア（LIF）ニューロンのネットワークへと拡張可能かどうかを検証すること。
• 非線形回帰タスクにおいて、スパイキングネットワークにおける対照的ハブリアン可塑性の性能を評価すること。
• ニューロンのダイナミクスと発火レート推定の影響が、生物学的に現実的な環境下での学習の安定性と精度に与える影響を調査すること。

提案手法

• 入力電流を固定したフォワードフェーズと、出力ニューロンに somatic 入力摂動を加えるバックワードフェーズを用いる二段階ダイナミクスにより、LIFニューロンのネットワークに均衡伝搬を適応する。
• スパイク列を大きな時間定数の低域フィルタで処理し、対照的ハブリアン学習ルールに使用する発火レートを推定する。
• フォワードフェーズとバックワードフェーズにおける発火レート相関の差に基づいて重みを更新する局所的シナプス可塑性ルールを実装する。
• 対称的な重みと外部バイアス項を有するエネルギー関数を用いてネットワークのダイナミクスを定義し、固定点がネットワークの予測に対応するようにする。
• 1 ms の時間ステップでオイラー積分を用いて、膜電位、自己不活性化、シナプス後ポテンシャルを含む LIF ニューロンのダイナミクスをシミュレートする。
• 各フォワード・バックワードフェーズ後に、事前に突触インデグリ（pre-synaptic indegree）の逆平方根でスケーリングされた学習率を用いて重みを更新し、学習を安定化させる。

実験結果

リサーチクエスチョン

• RQ1 対照的ハブリアン可塑性を用いた均衡伝搬が、スパイキングニューロンのネットワークに成功裏に実装可能か？
• RQ2 同じ学習ルール下で、スパイキングネットワークとレートベースネットワークの非線形回帰タスクにおける性能はどのように異なるか？
• RQ3 発火レート推定の正確さが、スパイキングネットワークにおける学習収束と性能に与える影響はどの程度か？
• RQ4 局所的で生物学的に妥当な可塑性ルールのみを用いて、深層スパイキングネットワークで非線形関数近似が可能か？
• RQ5 フォワードフェーズにおける固定点収束の質が、スパイキングニューロンを用いた学習の成功に果たす役割は何か？

主な発見

• LIFニューロンのネットワークと局所的対照的ハブリアン可塑性ルールを用いて、非線形回帰タスクを効果的に学習した。
• スパイキングニューロンを用いた学習性能は、レートベースニューロンを用いた場合より精度が低いが、これはフォワードフェーズにおける固定点発火レートの推定が最適でないことが主な要因とされる。
• 低域フィルタリングされたスパイク列を用いることで、学習ルールに適した発火レート推定が可能となり、明示的なレート符号化を必要とせずに可塑性を実現できた。
• 隠れ層が存在しない場合、ネットワークはタスクを学習できないことが確認され、モデルにおける非線形表現の必要性が裏付けられた。
• フォワードフェーズの相関とバックワードフェーズの相関の差を用いた学習ルールは、学習を安定化させ、局所的前後駆動活性に基づく重み更新を可能にした。
• 課題は存在するが、結果として、均衡伝搬と局所的可塑性を用いることで、生物学的に妥当な制約下でもスパイキングニューロンによる深層学習が実現可能であることが示された。