[論文レビュー] Mapping Temporal Variables into the NeuCube for Improved Pattern Recognition, Predictive Modelling and Understanding of Stream Data

Enmei Tu, Nikola Kasabov+1 more|arXiv (Cornell University)|Mar 17, 2016

Neural Networks and Applications参考文献 28被引用数 6

ひとこと要約

本論文では、時系列変数をNeuCubeスパイクニューラルネットワークアーキテクチャに最適化されたグラフベースのマッピングを提案し、時系列パターン認識、早期イベント予測、データ理解を向上させる。グラフマッチング、スパイク類似度測定、適応符号化を活用することで、従来手法やランダムマッピングと比較して優れた精度（チャレンジ2012で76.95％）を達成し、自動ニューロンクラスタービジュアライゼーションにより安定性と解釈可能性が向上した。

ABSTRACT

This paper proposes a new method for an optimized mapping of temporal variables, describing a temporal stream data, into the recently proposed NeuCube spiking neural network architecture. This optimized mapping extends the use of the NeuCube, which was initially designed for spatiotemporal brain data, to work on arbitrary stream data and to achieve a better accuracy of temporal pattern recognition, a better and earlier event prediction and a better understanding of complex temporal stream data through visualization of the NeuCube connectivity. The effect of the new mapping is demonstrated on three bench mark problems. The first one is early prediction of patient sleep stage event from temporal physiological data. The second one is pattern recognition of dynamic temporal patterns of traffic in the Bay Area of California and the last one is the Challenge 2012 contest data set. In all cases the use of the proposed mapping leads to an improved accuracy of pattern recognition and event prediction and a better understanding of the data when compared to traditional machine learning techniques or spiking neural network reservoirs with arbitrary mapping of the variables.

研究の動機と目的

• 任意のストリームデータに対してNeuCubeの性能を向上させるために、時系列変数の自動的かつ最適なマッピングを可能にする。
• 従来の機械学習手法やランダムマッピング手法を上回る、時系列パターン認識および早期イベント予測の精度を向上させる。
• ニューロン活動およびシナプス進化の自動可視化を通じて、NeuCubeモデルのより深い解釈可能性を提供する。
• 現実世界のストリームデータにおける複雑な時空間ダイナミクスをモデル化するためのスケーラブルで自己適応的なフレームワークを開発する。
• 遺伝的アルゴリズムを用いたNeuCubeパラメータのエンドツーエンド最適化により、性能と使いやすさを向上させる。

提案手法

• 時間的に類似した入力変数を3D SNNcube内の空間的に近接するニューロンにマッピングするため、重み付き無向グラフマッチングアルゴリズムが用いられる。この手法により、時間的関係が保持される。
• スパイク密度相関と最大スパイク一致を、グラフマッチングプロセスにおけるバイポーラおよびユニポーラスパイクトレインの類似度測定に用いる。
• 適応しきい値ベース（ATB）符号化法は、信号の平均値と標準偏差を用いてスパイクしきい値を動的に設定し、信号変化に適応する。
• グラフベースの半教師あり学習アルゴリズムは、スパイク活動または接続重みに基づいてSNNcube内のニューロンクラスタを自動的に同定し、学習ダイナミクスの可視化を可能にする。
• 遺伝的アルゴリズムは、すべてのNeuCubeハイパーパラメータ（例：スパイクしきい値、STDP率）を同時に最適化し、最適なパフォーマンスを達成する。
• SNNcubeは、STDP可塑性を備えた確率的漏れ積分・放電モデルを用い、教師なしで時空間パターンを学習する。

実験結果

リサーチクエスチョン

• RQ1 SNNcubeへの時系列変数のグラフベースマッピングは、ストリームデータにおけるパターン認識および早期予測精度を向上させることができるか？
• RQ2 本手法のマッピングは、ランダムマッピングやヒューリスティックマッピングと比較して、安定性とパフォーマンスの面で優れているか？
• RQ3 SNNcubeにおける自動ニューロンクラスタ検出は、学習済みの時空間パターンの解釈可能性および理解を向上させることができるか？
• RQ4 適応符号化は、現実世界のデータにおける信号変動に対してNeuCubeのロバストネスをどの程度向上させるか？
• RQ5 遺伝的アルゴリズムを用いた統合最適化フレームワークは、すべてのNeuCubeパラメータを最適にチューニングし、最適なパフォーマンスを達成できるか？

主な発見

• 提案手法のグラフベースマッピングは、チャレンジ2012のコンテストデータセットで分類精度76.95％を達成し、最良のベースライン手法（GAKを用いた51.6％）を顕著に上回った。
• 10回の実行における平均誤差率はグラフベースマッピングの方が低く、標準偏差も小さく、より高い安定性を示した。
• 生理的ストリームデータを用いた患者の睡眠ステージ遷移の予測において、より早期かつ高精度な予測が可能になった。
• バイオ・エリアの交通パターン認識タスクでは、入力変数の最適化された空間的マッピングにより、動的時間的パターンの検出が向上した。
• グラフベースの半教師あり学習アルゴリズムは、SNNcube内のニューロンクラスタを効果的に同定し、学習ダイナミクスおよびモデル構造に関する視覚的インサイトを提供した。
• 遺伝的アルゴリズム最適化により、ピークパフォーマンスを達成するための最適パラメータ（スパイクしきい値：0.800、発火しきい値：0.500、STDP率：0.073、自己不活性化時間：6）が正常に同定された。