[論文レビュー] STDP as presynaptic activity times rate of change of postsynaptic activity

Yoshua Bengio, Thomas Mesnard+3 more|arXiv (Cornell University)|Sep 19, 2015

Advanced Memory and Neural Computing参考文献 16被引用数 30

ひとこと要約

本論文は、正確なスパイク時刻を必要とせず、事前シナプスの発火頻度と事後シナプス活動の時間微分の積に依存する、新しいシナプス可塑性ルールを提案する。このルールは、実験的に観察されたSTDPに類似した重み変更を再現し、予測誤差における確率的勾配降下に対応しており、レートベースのダイナミクスと深層ネットワークにおける誤差逆伝搬法との間で生物学的に妥当な接続を提供する。

ABSTRACT

We introduce a weight update formula that is expressed only in terms of firing rates and their derivatives and that results in changes consistent with those associated with spike-timing dependent plasticity (STDP) rules and biological observations, even though the explicit timing of spikes is not needed. The new rule changes a synaptic weight in proportion to the product of the presynaptic firing rate and the temporal rate of change of activity on the postsynaptic side. These quantities are interesting for studying theoretical explanation for synaptic changes from a machine learning perspective. In particular, if neural dynamics moved neural activity towards reducing some objective function, then this STDP rule would correspond to stochastic gradient descent on that objective function.

研究の動機と目的

• 正確なスパイク時刻を必要とせず、発火頻度とその微分にのみ依存するシナプス可塑性ルールを開発し、STDPを説明すること。
• 目的関数を最小化する神経活動が進化するという仮説に基づき、確率的勾配降下への同等性を示すことによって、生物学的に妥当な学習ルールと誤差逆伝搬に基づく深層学習との溝を埋めること。
• このようなルールが隠れ層を含むニューラルネットワークにおける学習をどのように支えるか、理論的かつシミュレーション的根拠を提供すること。
• 時間的変化の度合いが、多層ネットワークにおける信用配分の代理として機能しうるかを検討すること。

提案手法

• 重み更新ルールは、事前シナプス発火頻度と事後シナプス活動の時間微分の積に比例するものとして定義される。
• 非線形活性化関数 ρ は、統合膜電位を発火頻度にマッピングし、レートベースのモデリングを可能にする。
• 神経活動が予測誤差を最小化するという仮説に基づき、この誤差における勾配降下が実現される。
• シミュレーションにより、このルールが特徴的なSTDP曲線を再現することを示した：事後スパイクが事前スパイクに続くと強化され、逆に事前スパイクが先に発生すると弱化する。
• 従来のヘブ則とは異なり、事後シナプス活動のレベルではなくその変化率を組み込んでいる。
• 理論的分析により、神経活動が目的関数を最小化する方向に進化する場合、このルールはその関数における確率的勾配降下を実行することが示された。

実験結果

リサーチクエスチョン

• RQ1 発火頻度とその微分にのみ依存するシナプス可塑性ルールが、実験的に観察されたSTDPパターンを再現できるか？
• RQ2 事前シナプス活動と事後シナプス活動の微分の積に依存するルールが、予測誤差における確率的勾配降下に対応するか？
• RQ3 XieとSeung（2000）のルールなど、既存のレートベース学習ルールと比較して、生物学的妥当性と学習性能の点でどのように異なるか？
• RQ4 このルールは、明示的な誤差逆伝搬がなくても、隠れ層を含む深層ネットワークにおける信用配分を可能にするか？
• RQ5 学習ルールが発火頻度とその微分にのみ依存する場合、スパイク時刻は果たしてどのような役割を果たすか？

主な発見

• 提案されたルールは、特徴的なSTDP重み変更曲線をうまく再現しており、事後スパイクが事前スパイクに続くと強化され、逆に事前スパイクが先に発生すると弱化するという結果が、生物学的データと一致する。
• シミュレーションにより、このルールに従ってシナプス重みが更新されると、スパイク時刻差と重み変更の間の実験的観察結果に近い関係が得られることを確認した。
• 神経活動が予測誤差を最小化する方向に進化する場合、このルールはその誤差関数における確率的勾配降下に対応する。
• この手法により、深層教師ありニューラルネットワークが、局所的でレートベースかつ生物学的に妥当な学習ルールのみを用いて学習可能であることが示された（ScellierとBengio, 2016の先行研究で確認済み）。
• 明示的なスパイク時刻が不要であるが、事後シナプス活動の微分によってSTDPの本質的な時間的非対称性が捉えられている。
• このアプローチにより、正確なスパイク時刻がなくても、神経回路内のレートベースダイナミクスが誤差逆伝搬と整合する学習を実現できる理論的基盤が提供される。