[論文レビュー] Learning binary or real-valued time-series via spike-timing dependent plasticity

Takayuki Osogami|arXiv (Cornell University)|Dec 15, 2016

Advanced Memory and Neural Computing参考文献 16被引用数 3

ひとこと要約

本稿では、動的ボルツマンマシン（DyBM）を拡張し、バイナリ値時系列および実数値時系列の両方を学習可能にするために、従来の制約を緩和した。これにより、バイナリデータに対してはロジスティック回帰として、実数値データに対してはガウス型DyBMとして機能可能となる。ガウス型DyBMは、長期的依存関係を捉えるシナプス適合性トレースを組み込むことで、VARモデルよりも予測精度を向上させ、計算コストと同等の水準で予測誤差を最大20%まで低減する。

ABSTRACT

A dynamic Boltzmann machine (DyBM) has been proposed as a model of a spiking neural network, and its learning rule of maximizing the log-likelihood of given time-series has been shown to exhibit key properties of spike-timing dependent plasticity (STDP), which had been postulated and experimentally confirmed in the field of neuroscience as a learning rule that refines the Hebbian rule. Here, we relax some of the constraints in the DyBM in a way that it becomes more suitable for computation and learning. We show that learning the DyBM can be considered as logistic regression for binary-valued time-series. We also show how the DyBM can learn real-valued data in the form of a Gaussian DyBM and discuss its relation to the vector autoregressive (VAR) model. The Gaussian DyBM extends the VAR by using additional explanatory variables, which correspond to the eligibility traces of the DyBM and capture long term dependency of the time-series. Numerical experiments show that the Gaussian DyBM significantly improves the predictive accuracy over VAR.

研究の動機と目的

• 従来の計算の柔軟性と適用可能性を制限していた制約を緩和することで、動的ボルツマンマシン（DyBM）を一般化すること。
• DyBMがバイナリ値時系列に対してロジスティック回帰として解釈可能であり、スパイクパターンの効率的学習が可能であることを示すこと。
• 実数値時系列をモデル化するためのガウス型DyBMを構築し、ベクトル自己回帰（VAR）モデルを適合性トレースを組み込むことで拡張すること。
• ガウス型DyBMがVARモデルよりも顕著に優れた予測性能を達成するが、計算複雑性は低く保たれることを実証すること。
• スケーラブルな時系列モデリングを可能にするために、オンラインかつ分散型、自然勾配に基づく学習をガウス型DyBMで実現すること。

提案手法

• エネルギー関数を行列-ベクトル形式に再定式化することでDyBMの制約を緩和し、バイナリ時系列に対してロジスティック回帰として解釈可能にする。
• 実数値時系列をモデル化するためのガウス型DyBMモデルを導入し、多変量正規分布を用い、パラメータは対数尤度最大化により学習する。
• シナプス適合性トレースを予測モデルの追加説明変数として導入し、トレースは過去のスパイクの減衰和として進化する。
• オンライン学習のため、AdaGrad適合を用いた自然勾配更新則を用い、各時刻でパラメータおよび内部状態（適合性トレース、FIFOキュー）を更新する。
• 時系列の条件付き平均を過去の入力と適合性トレースの線形結合としてモデル化し、適合性トレースは幾何的減衰により長期的依存関係を捉える。
• ガウス型DyBMをVARの一般化として導出する。ラグ-d変数は、過去スパイクの減衰和（適合性トレース）に置き換えられ、特別な場合に減衰率μ=0とするとVARに還元される。

実験結果

リサーチクエスチョン

• RQ1 DyBMは、STDPに基づく生物学的妥当性を保ちつつ、より柔軟な計算を可能にするために一般化可能か？
• RQ2 DyBMはどのようにして実数値時系列をモデル化可能であり、VARのような古典的時系列モデルとどのような関係にあるか？
• RQ3 ガウス型DyBMにおける適合性トレースは、標準的なVARモデルに比べて予測精度をどの程度向上させるか？
• RQ4 ガウス型DyBMは、性能を損なわずにオンラインかつ分散型で効率的に学習可能か？
• RQ5 適合性トレースの組み込みに伴う計算コストは何か？また、時系列長および伝導遅延と比例してスケーリングされるか？

主な発見

• ガウス型DyBMは、対応するVARモデルに比べて予測平均二乗誤差を最大20%まで低減し、その改善は長期的依存関係をモデル化するための適合性トレースの使用に起因する。
• 単一の減衰率を使用する場合、ガウス型DyBMはVARと同等の計算複雑性を維持し、学習時間は伝導遅延dに線形に増加する。
• 伝導遅延が短い（d=1）場合でも、ガウス型DyBMはd=16のVARを上回る性能を示し、適合性トレースが拡張された時間的文脈を捉える有効性を示している。
• 適合性トレースにより、ガウス型DyBMはVARの固定ラグ構造を超えて長期的依存関係をモデル化可能となり、複雑な時間的ダイナミクスを示す時系列における一般化性能が向上する。
• ガウス型DyBMは、自然勾配とAdaGrad学習率適応を用いた確率的勾配降下法によりオンライン学習が可能であり、安定的かつ効率的なパラメータ更新が保証される。
• ガウス型DyBMは分散環境でも計算的に効率的であり、各パラメータの更新が局所的に利用可能な情報に依存するため、スケーラブルな学習が可能である。