[論文レビュー] Exact tensor completion using t-SVD

Zemin Zhang, Shuchin Aeron|arXiv (Cornell University)|Feb 16, 2015

Sparse and Compressive Sensing Techniques参考文献 24被引用数 12

ひとこと要約

本稿では、t-SVDを用いたテンソルチューブランクの凸最適化フレームワークを提案し、サンプリングレートがテンソルのチューブランクに比例する場合、正確なテンソル補完が高確率で可能であることを示している。この手法は、凸な代理関数としてテンソル核ノルムを最小化することで、テンソルのチューブランクの凸緩和に基づき、テンソルの低ランク回復において順序的に最適なサンプリング複雑度を達成する。

ABSTRACT

In this paper we focus on the problem of completion of multidimensional arrays (also referred to as tensors) from limited sampling. Our approach is based on a recently proposed tensor-Singular Value Decomposition (t-SVD) [1]. Using this factorization one can derive notion of tensor rank, referred to as the tensor tubal rank, which has optimality properties similar to that of matrix rank derived from SVD. As shown in [2] some multidimensional data, such as panning video sequences exhibit low tensor tubal rank and we look at the problem of completing such data under random sampling of the data cube. We show that by solving a convex optimization problem, which minimizes the tensor nuclear norm obtained as the convex relaxation of tensor tubal rank, one can guarantee recovery with overwhelming probability as long as samples in proportion to the degrees of freedom in t-SVD are observed. In this sense our results are order-wise optimal. The conditions under which this result holds are very similar to the incoherency conditions for the matrix completion, albeit we define incoherency under the algebraic set-up of t-SVD. We show the performance of the algorithm on some real data sets and compare it with other existing approaches based on tensor flattening and Tucker decomposition.

研究の動機と目的

• 限られたランダムにサンプリングされた要素からの多次元配列（テンソル）の回復という課題に対処すること。
• 新規なテンソル因子分解フレームワークを用いて、正確なテンソル補完が可能となる理論的条件を確立すること。
• t-SVDを用いたテンソルチューブランクの凸緩和に基づく、計算的に実行可能な手法を開発すること。
• CPおよび Tucker 分解に基づく既存のテンソル補完手法と比較し、回復精度とサンプリング効率の観点から本手法の性能を評価すること。

提案手法

• テンソルのチューブランクを定義するためにテンソル特異値分解（t-SVD）を用い、テンソル内の低ランク構造のモデリングを可能にする。
• 最適化に基づく回復のため、テンソルチューブランクの凸緩和としてテンソル核ノルムを導入する。
• 観測された要素を満たすようにテンソル核ノルムを最小化する凸最適化問題を採用し、非可換性条件下で正確な回復を保証する。
• 非可換 Bernstein 不等式（NBI）を用いて、回復確率に関する理論的境界を導出する。
• t-SVD代数的構造に適合した、行列の非可換性に類似したテンソル非可換性条件を定義する。
• テンソル要素のランダムサンプリングを適用し、サンプル数が $\mathcal{O}(rn_1n_3\log((n_1+n_2)n_3))$ に比例する場合に、高確率で回復が可能であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 t-SVDフレームワークを用いた場合、ランダムサンプリングのもとで正確なテンソル補完を保証できるか？
• RQ2 低チューブランクテンソルの正確な回復に必要な最小サンプリングレートは何か？
• RQ3 CPおよび Tucker に基づくテンソル補完手法と比較して、本手法の性能とサンプリング効率はどのように異なるか？
• RQ4 t-SVDフレームワークにおいて、高確率での回復を保証するためのテンソル非可換性条件は何か？
• RQ5 テンソル核ノルムは、正確な回復のためのテンソルチューブランクのタイトな凸緩和であるか？

主な発見

• サンプル数が $\mathcal{O}(rn_1n_3\log((n_1+n_2)n_3))$ に比例する場合、テンソルのチューブランク $r$ に対して、正確なテンソル補完が高確率で可能である。
• 本手法は、対数要因を除いて理論的下界と一致する順序的に最適なサンプリング複雑度を達成する。
• テンソル非可換性条件下で、テンソル核ノルム最小化は一意に最小化解をもつ。
• 数値実験では、$144\times 256\times 80$ のバスケットボール動画に対して50%のランダムサンプリングで相対二乗誤差（RSE）が0.0915に達し、行列補完（RSE: 0.1409）および他のテンソル手法を上回る性能を示した。
• シミュレーションでは、理論的閾値を超えるサンプリングレートでは回復率が100%（白マス）に達し、理論的境界の妥当性を確認した。
• t-SVDフレームワークは、行列ベースのベクトル空間ツールをテンソルに適応することで、CPおよび Tucker 分解の理論的裏付けが強く、計算的に実行可能な代替手法を提供する。