[論文レビュー] A new stochastic STDP Rule in a neural Network Model

Pascal Helson|arXiv (Cornell University)|Jun 1, 2017

Advanced Memory and Neural Computing参考文献 4被引用数 3

ひとこと要約

本稿では、ウィルソン＝コーアン神経ネットワークモデルにおける離散的シナプス感受性を有する新しい確率的スパイク時間依存可塑性（STDP）ルールを提案する。遅い・速い時間スケール分離を用いて、感受性の動的変化を決定的方程式として導出する。主な貢献は、境界やメタプラスティシティを仮定しないシンプルで解析的に取り扱える条件を提示し、重み過程のエルゴード性を保証することであり、学習ウィンドウの積分が負であっても重みの発散といった直感に反する結果を明らかにしている。

ABSTRACT

Thought to be responsible for memory, synaptic plasticity has been widely studied in the past few decades. One example of plasticity models is the popular Spike Timing Dependent Plasticity (STDP). The huge litterature of STDP models are mainly based deterministic rules whereas the biological mechanisms involved are mainly stochastic ones. Moreover, there exist only few mathematical studies on plasticity taking into account the precise spikes timings. In this article, we aim at proposing a new stochastic STDP rule with discrete synaptic weights which allows a mathematical analysis of the full network dynamics under the hypothesis of separation of timescales. This model attempts to answer the need for understanding the interplay between the weights dynamics and the neurons ones.

研究の動機と目的

• 数学的に取り扱いやすい確率的STDPモデルを、離散的シナプス感受性を有するものとして開発し、可塑性ダイナミクスの解析的考察を可能にする。
• 神経のスパイクの速いダイナミクスとシナプス可塑性の遅いダイナミクスの間の時間スケールのギャップを、遅い・速い解析フレームワークを用いて埋める。
• 神経活動の定常分布を平均化することにより、重みダイナミクスの低次元方程式を導出する。
• 境界やメタプラスティシティといった人工的制約を課さずに、重み過程のエルゴード性の十分条件を特定する。
• 厳密な確率論的解析を通じて、学習ウィンドウの積分が負であっても発散するなど、直感に反するダイナミクス的挙動を明らかにする。

提案手法

• 神経ネットワークを確率的ウィルソン＝コーアンフレームワークでモデル化し、シナプス感受性が区分的決定的マコフ過程を介して進化するものとする。
• 遅い・速い時間スケール分離を適用し、可塑性が神経スパイクダイナミクスに比べて無限に遅く進化すると仮定する。
• 高速な神経プロセスをその不変測度に置き換えることで、有効な重みダイナミクスを導出する。不変測度はリャプノフ関数とラプラス変換を用いて得られる。
• 行列の逆行列と対角優勢性の議論を用いて、神経-重みプロセスの共同不変測度の一意性を証明する。
• 不変測度のラプラス変換を用いて、重みプロセスの長期的挙動を特徴付ける。
• モデルから導出される遷移率行列のスペクトル的性質を用いて、重みプロセスの再帰性と非再帰性を分析する。

実験結果

リサーチクエスチョン

• RQ1 境界やメタプラスティシティを仮定しない状況下で、シナプス感受性プロセスがどのような条件下でエルゴード的を保つのか。
• RQ2 離散的重み更新を伴う確率的STDPルールは、安定で解析的に取り扱える重みダイナミクスをもたらすことができるか。
• RQ3 なぜSTDP学習ウィンドウの積分が負であっても、重みプロセスが発散するのか。
• RQ4 確率論的手法を用いて、高速な神経スパイクダイナミクスから遅いシナプス重みダイナミクスを厳密に導出できるか。
• RQ5 STDPルールにおける内部ノイズの役割は何か。また、それが長期的安定性とエルゴード性にどのように影響を与えるか。

主な発見

• パrameterが遷移率行列のスペクトル的性質に基づいて導出された単純な条件を満たす場合、重みプロセスは正再帰的かつエルゴード的である。
• 直感に反し、STDP学習ウィンドウの積分が負であっても、確率的性質と離散的重み更新の相互作用により、重みプロセスが発散することがある。
• 神経-重みプロセスの不変測度は一意であり、関連行列のラプラス変換と対角優勢性を用いて証明された。
• 遅い重みダイナミクスは、神経活動をその定常分布に置き換えることで得られる有効方程式によって支配され、解析的取り扱いが可能になる。
• テイラー展開やフーリエ展開を用いるのではなく、確率論的ツールを用いることで、自己相関行列の数値的推定を回避できる。
• 解析により、STDPルールにおける内部ノイズが、モデルパrameterに関する単純で明示的な条件の下で安定な長期的挙動をもたらすことが確認された。