[論文レビュー] Unsupervised Feature Learning from Temporal Data

Ross Goroshin, Joan Bruna+3 more|arXiv (Cornell University)|Apr 9, 2015

Anomaly Detection Techniques and Applications参考文献 16被引用数 31

ひとこと要約

本稿では、遅さとスパarsityの事前知識を組み合わせることで、ラベルなし動画データから時間的に整合性のある特徴を学習する非教師あり深層学習フレームワークを提案する。畳み込みプーリングオートエンコーダを用い、隠れユニットにL1正則化と再構成損失を適用することで、時間的に安定しており、意味的にも意味のある情報を保持する不変表現を学習する。

ABSTRACT

Current state-of-the-art classification and detection algorithms rely on supervised training. In this work we study unsupervised feature learning in the context of temporally coherent video data. We focus on feature learning from unlabeled video data, using the assumption that adjacent video frames contain semantically similar information. This assumption is exploited to train a convolutional pooling auto-encoder regularized by slowness and sparsity. We establish a connection between slow feature learning to metric learning and show that the trained encoder can be used to define a more temporally and semantically coherent metric.

研究の動機と目的

• ラベルなし動画系列から意味的で時間的に整合性のある特徴を教師なしで学習すること。
• 遅さ事前知識による特徴学習における退化問題（定常特徴が出現する問題）を解消すること。
• 隠れ表現に対する再構成損失を組み込むことで、学習された特徴に入力情報の保持を促進すること。
• 局所的プーリングと過完全線形変換を用いることで、局所的動きや変形に対して不変な特徴を向上させること。
• 遅い特徴学習とメトリクス学習の間の関係を確立し、下流タスクの表現品質を向上させること。

提案手法

• 学習可能な過完全線形変換の2段階エンコーダを用い、その後にReLU非線形性と局所的プーリングを適用して特徴を生成する。
• 過完全基底における特徴のスパarsityを促進するため、隠れ活性化にL1ペナルティを適用する。
• 隠れ表現 h に対してデコーダ行列 Wd を用いた再構成損失を実装し、入力情報の保持を図る。
• 隣接フレーム間（|t - t'| = 1）の特徴差のLpノルムを最小化することで、時間的遅さを強制する。
• 非隣接フレーム（|t - t'| > 1）に対しては、マージン m を用いた対照項を導入し、退化解を回避する。
• 共有重みを有するシameseアーキテクチャを用い、時間的に隣接する動画フレームのペairを対象に、統合損失を最適化する。

実験結果

リサーチクエスチョン

• RQ1 ラベルなし動画データからの非教師あり特徴学習は、時間的に安定かつ意味的に意味のある表現を生成できるか？
• RQ2 ペairワイズ対照損失に依存せずに、遅さに基づく特徴学習における退化問題をどのように緩和できるか？
• RQ3 最終的なプールド特徴ではなく、隠れ表現 h からの再構成は、情報保持の向上にどの程度寄与するか？
• RQ4 局所的プーリングとスパarsity制約が併用されることで、微小な空間的平行移動や変形に対して不変な特徴を生成できるか？
• RQ5 本手法は、メトリクス学習や対照学習と比較して、表現品質および下流タスクへの有用性においてどのように差をつけるか？

主な発見

• 再構成損失と遅さ・スパarsityの組み合わせにより、退化した定常特徴解を効果的に回避できた。
• 隠れ活性化にL1ペナルティを適用することで、過完全基底でさえもスパースかつ分離可能な表現が得られた。
• プールド特徴ではなく隠れ表現 h からの再構成により、入力データの回復がより良好に実現され、位相再構成問題を回避できた。
• 学習された特徴は強い時間的整合性を示し、隣接フレームが潜在空間内で近くにマッピングされた。
• 局所的プーリングと畳み込み構造のおかげで、微小な空間的平行移動や変形に対して不変な特徴が得られた。
• 本モデルは、遅い特徴分析とメトリクス学習の間の明確な関係を確立し、学習された特徴がより整合性のあるメトリクスを定義できることを示した。