[論文レビュー] Incremental Slow Feature Analysis: Adaptive and Episodic Learning from High-Dimensional Input Streams

Varun Raj Kompella, Matthew Luciw+1 more|arXiv (Cornell University)|Dec 9, 2011

Blind Source Separation Techniques参考文献 50被引用数 7

ひとこと要約

本稿では、非定常で高次元の入力ストリームに適応するためのオンラインで共分散行列を必要としない、逐次的ヘブシアンおよびアンチヘブシアン更新を用いた、逐次的スローフィーチャー分析（IncSFA）を提案する。この手法により、共分散行列を保存せずリアルタイムでスローフィーチャーを追跡できるため、自律エージェントにおける生涯的かつエピソード型の学習が可能となり、動的環境下でもバッチSFAを凌ぎ、ビデオストリームからの安定的かつ生物学的に妥当な特徴抽出を達成する。

ABSTRACT

Slow Feature Analysis (SFA) extracts features representing the underlying causes of changes within a temporally coherent high-dimensional raw sensory input signal. Our novel incremental version of SFA (IncSFA) combines incremental Principal Components Analysis and Minor Components Analysis. Unlike standard batch-based SFA, IncSFA adapts along with non-stationary environments, is amenable to episodic training, is not corrupted by outliers, and is covariance-free. These properties make IncSFA a generally useful unsupervised preprocessor for autonomous learning agents and robots. In IncSFA, the CCIPCA and MCA updates take the form of Hebbian and anti-Hebbian updating, extending the biological plausibility of SFA. In both single node and deep network versions, IncSFA learns to encode its input streams (such as high-dimensional video) by informative slow features representing meaningful abstract environmental properties. It can handle cases where batch SFA fails.

研究の動機と目的

• 非定常的かつオープンエンドな環境におけるバッチSFA（SFA）の限界を解消すること。
• ビデオなどの高次元センサーストリームからオンラインで逐次的にスローフィーチャーを学習できること。
• 共分散行列推定を排除することで、計算コストの低減と外れ値への感受性の低下を実現すること。
• ヘブシアンおよびアンチヘブシアン学習ルールを用いることで生物学的妥当性を向上させること。
• 訓練エピソード間で特徴の初期化を可能にすることで、エピソード型学習を支援すること。

提案手法

• IncSFAは、逐次的主成分分析（CCIPCA）とマイナー成分分析（MCA）を組み合わせ、オンライン学習ルールを用いてスローフィーチャーを逐次的に更新する。
• 生物学的妥当性を模倣するためにヘブシアンおよびアンチヘブシアン重み更新を用い、バッチ固有値系の計算を置き換える。
• アルゴリズムは入力ストリームをリアルタイムで処理し、全データセットの再トレーニングなしに特徴を更新する。
• 特徴推定中に次元削減を適用することで、有意でない主成分の計算を回避する。
• 空間的に重複する受容野を持つ階層的IncSFAネットワークを構築し、階層間での抽象化を可能にする。
• 安定した入力領域における低固有値成分からのノイズを抑制するため、特徴出力を[-5, 5]にクリッピングする。

実験結果

リサーチクエスチョン

• RQ1 逐次的SFAアルゴリズムは、非定常環境における変化する入力統計に適応可能か？
• RQ2 IncSFAは再初期化なしにエピソード間で意味のあるスローフィーチャーを学習可能か？
• RQ3 IncSFAはバッチSFAと比較して外れ値への感受性を低減するか？
• RQ4 IncSFAは共分散行列推定を排除しても、高次元ビデオストリームから安定的かつ低次元の特徴表現を達成可能か？
• RQ5 ヘブシアンおよびアンチヘブシアン学習ルールを通じて、IncSFAはどの程度生物学的妥当性を保持できるか？

主な発見

• IncSFAは、動く板のビデオストリームから、期待される距離信号に類似した正弦波的スローフィーチャーを効果的に抽出した。
• 前回のエピソードで得られた最終特徴を初期化に再利用することで、エピソード間で安定した特徴表現を維持した。
• 一時的で変化のない刺激の影響を時間経過とともに徐々に失うことで、外れ値への感受性が低減した。
• 共分散行列フリー設計により、100×100の画像に対して約5000万のパラメータが100×100×mにまで削減され、効率的なオンライン処理が可能になった。
• 階層的ネットワークにおいて、IncSFAは効果的な次元削減と抽象化を達成し、最終層で1つの情報量の多いスローフィーチャーを生成した。
• IncSFA特徴に基づく2次回帰モデルは、距離予測において低RMSEを達成し、特徴の下流タスクへの有用性を裏付けた。