[論文レビュー] Boltzmann machines for time-series

Takayuki Osogami|arXiv (Cornell University)|Aug 20, 2017

Neural Networks and Reservoir Computing参考文献 42被引用数 8

ひとこと要約

この論文は、時系列モデル化のためのボルツマン機械をレビューし、オンライン設定での局所的学習を可能にする動的ボルツマン機械（DyBMs）に焦点を当てる。バックプロパゲーションスルータイム（BPTT）とは異なり、シーケンス長に対して線形の計算複雑性を示すが、DyBMsはスパイク時刻依存可塑性（STDP）にインspiredされた時間的に局所的な学習ルールを用いることで、履歴長にかかわらず一定のステップごとの複雑性で効率的なオンライン学習を可能にする。

ABSTRACT

We review Boltzmann machines extended for time-series. These models often have recurrent structure, and back propagration through time (BPTT) is used to learn their parameters. The per-step computational complexity of BPTT in online learning, however, grows linearly with respect to the length of preceding time-series (i.e., learning rule is not local in time), which limits the applicability of BPTT in online learning. We then review dynamic Boltzmann machines (DyBMs), whose learning rule is local in time. DyBM's learning rule relates to spike-timing dependent plasticity (STDP), which has been postulated and experimentally confirmed for biological neural networks.

研究の動機と目的

• 再帰的ボルツマン機械のオンライン学習におけるバックプロパゲーションスルータイム（BPTT）の高い計算コストに対処すること。
• 時間的に局所的な学習ルールを備えたスケーラブルな代替手法として、動的ボルツマン機械（DyBMs）を提示すること。
• スパイク時刻依存可塑性（STDP）を介して、学習ルールの生物学的妥当性を結びつけること。
• 長期依存関係を持つ時系列モデルの効率的なオンライン学習を可能にすること。
• 局所的学習ダイナミクスを用いたエネルギーベースモデルによる、スケーラブルで微分可能な時系列モデリングのフレームワークを提供すること。

提案手法

• 再帰的構造と局所的学習ルールを備えたボルツマン機械の時系列拡張として、動的ボルツマン機械（DyBMs）を提案する。
• 長期依存関係を効率的に近似するために、割引係数γを用いた再帰的勾配計算を用いる。
• ステップごとの計算複雑性を一定に保つために、勾配推定値の再帰的更新ルールを採用する。
• 学習の安定化のため、隠れユニット活性の差分に対するモーメンタムに類似た再帰的平均化を導入する。
• 予測誤差の時間的に割引された和を用いて、パラメータを更新する学習ルールを適用する。
• 前方と後方モデルがパラメータを共有する双方向DyBMsを拡張し、前向きと後向き方向の補完的学習ダイナミクスを活用して学習の安定性と収束性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 長期間のシーケンスを持つ状況でも、ボルツマン機械モデルをオンライン学習で効率的に訓練できるか？
• RQ2 再帰的エネルギーベースモデルにおいて、BPTTの計算複雑性をどのように低減できるか？
• RQ3 時系列モデリングにおける学習ルールの生物学的妥当性は何か？
• RQ4 局所的学習ルールは、BPTTと同等の性能を達成できるか？
• RQ5 オンラインパラメータ更新のため、隠れユニット活性の差分を効率的に追跡する方法は何か？

主な発見

• DyBMの学習ルールは、直近の時系列長に依存せず、ステップごとの計算複雑性が一定であることを達成している。
• DyBMの学習ルールは、数学的にスパイク時刻依存可塑性（STDP）に類似しており、生物学的神経可塑性と結びついている。
• 割引係数γを用いた再帰的勾配計算により、過去の状態を保存せずに長期依存関係を効率的に近似できる。
• 双方向DyBMsの使用により、前向きと後向き方向の補完的学習ダイナミクスを活用することで、学習の安定性とパラメータ推定の精度が向上する。
• 最小限のメモリオーバーヘッドで、時系列生成、予測、異常検出に対するスケーラブルなオンライン学習をサポートする。
• 実験的結果から、DyBMsは計算効率を維持しながら、時系列タスクで競争力のある性能を達成していることが示された。