[論文レビュー] Novel methods for multilinear data completion and de-noising based on tensor-SVD

Zemin Zhang, Gregory Ely+3 more|arXiv (Cornell University)|Jul 7, 2014

Sparse and Compressive Sensing Techniques参考文献 16被引用数 52

ひとこと要約

本稿では、3次元および4次元動画データに対して、テンソル特異値分解（t-SVD）を用いた新しいテンソル補完法およびロバストPCA手法を提案する。低ランク近似とスパースノイズへの耐性を実現するため、テンソル核ノルム（TNN）を活用する。ADMMに基づく最適化により、欠損値やスパースノイズからの動画回復において、行列ベースの手法を上回る性能を示し、補完およびノイズ除去の両タスクで優れた性能を発揮する。

ABSTRACT

In this paper we propose novel methods for completion (from limited samples) and de-noising of multilinear (tensor) data and as an application consider 3-D and 4- D (color) video data completion and de-noising. We exploit the recently proposed tensor-Singular Value Decomposition (t-SVD)[11]. Based on t-SVD, the notion of multilinear rank and a related tensor nuclear norm was proposed in [11] to characterize informational and structural complexity of multilinear data. We first show that videos with linear camera motion can be represented more efficiently using t-SVD compared to the approaches based on vectorizing or flattening of the tensors. Since efficiency in representation implies efficiency in recovery, we outline a tensor nuclear norm penalized algorithm for video completion from missing entries. Application of the proposed algorithm for video recovery from missing entries is shown to yield a superior performance over existing methods. We also consider the problem of tensor robust Principal Component Analysis (PCA) for de-noising 3-D video data from sparse random corruptions. We show superior performance of our method compared to the matrix robust PCA adapted to this setting as proposed in [4].

研究の動機と目的

• 不完全または汚染された観測からのマルチライン（テンソル）データの回復という課題に取り組むこと。特に動画応用に焦点を当てる。
• テンソル特異値分解（t-SVD）フレームワークを活用し、従来の行列ベースやベクトル化手法よりも、動画データの低ランク表現をより効率的かつ正確に実現すること。
• ランダムにサンプリングされたエントリから動画補完を実現するため、テンソル核ノルム（TNN）をペナルティ項とするアルゴリズムを開発すること。
• 低マルチランク動画コンテンツとスパースで高振幅の汚染を分離するためのテンソルロバストPCA定式化を提案すること。
• 動画補完およびノイズ除去の両タスクにおいて、既存の行列ベース手法を上回る優れた性能を示すこと。

提案手法

• 本手法は最近提唱されたテンソル特異値分解（t-SVD）に基づく。t-SVDはテンソルを方向付き行列上の線形作用素として扱い、マルチラインランクとTNNに基づく低ランク近似を可能にする。
• テンソル核ノルム（TNN）は、マルチラインランクの凸緩和として用いられ、補完およびノイズ除去のための効率的な最適化を可能にする。
• 動画補完のため、Fourierドメインでt-SVD構造を活用したADMMを用いたTNN正則化最適化問題を解く。
• ロバストPCAのため、低ランク＋スパース分解を凸最適化問題として定式化する：min ||L||_TNN + λ||S||_1,1,2 （データ整合性を満たす）をADMMで解く。
• ADMMの更新式はFourierドメインで導出され、t-SVDにより変換のブロック対角化を通じてTNNの効率的計算が可能になる。
• 線形カメラ運動を伴う3次元および4次元動画データに本手法を適用し、t-SVDはベクトル化やフラット化よりもよりコンactな表現を提供する。

実験結果

リサーチクエスチョン

• RQ1 t-SVDに基づくテンソル表現は、行列ベースやベクトル化手法と比較して、3次元および4次元動画データの低ランク近似をより効率的かつ正確に実現できるか？
• RQ2 ADMMによるTNN正則化最適化は、既存の行列またはテンソル手法と比較して、ランダムに欠落したエントリからの動画補完性能を向上させるか？
• RQ3 テンソルロバストPCAは、特にフレームにわたり構造化されたスパースで高振幅のピクセル汚染から、低マルチランク動画コンテンツを効果的に分離できるか？
• RQ4 正則化パラメータλの選択がテンソルロバストPCAの性能に与える影響は何か？最適なスケーリング則は存在するか？
• RQ5 動画回復タスクにおいて、t-SVDはTucker分解やCANDECOMP/PARAFAC分解と比較して、理論的および実用的な利点を有するか？

主な発見

• 線形カメラ運動を伴う動画では、t-SVDに基づく表現が、ベクトル化やフラット化された行列表現と比較して、より優れた圧縮効率を達成する。
• 提案されたTNN正則化補完アルゴリズムは、ランダムに欠落したエントリからの3次元および4次元動画回復において、既存の行列およびテンソルベース手法を上回る性能を示す。
• テンソルロバストPCAは、スパースピクセル汚染と元の低マルチランク動画コンテンツを効果的に分離し、回復フレームのアーチファクトが少なく、高い忠実度を維持する。
• ベクトル化されたフレームに適用した行列ロバストPCAは、背景の回復がぼやけ、構造がスパース成分に漏れ込むが、テンソルロバストPCAは空間的および時間的整合性を保持する。
• テンソルロバストPCAの最適なλの選択は、経験的に1/√max(n₁,n₂)であることが判明し、理論的直観と整合し、行列ベースのλスケーリングを上回る性能を発揮する。
• ADMMに基づく最適化フレームワークにより、Fourierドメインにおけるt-SVD構造を活用することで、TNNおよびロバストPCA問題の効率的かつスケーラブルな解法が可能になる。