[論文レビュー] Exact Low Tubal Rank Tensor Recovery from Gaussian Measurements

Canyi Lu, Jiashi Feng+2 more|arXiv (Cornell University)|Jun 7, 2018

Sparse and Compressive Sensing Techniques参考文献 4被引用数 14

ひとこと要約

本稿は、ガウス測定値から低チューブランクテンソルの正確な回復に関する保証を確立する。テンソルノルム（TNN）の最小化を用いて、O(r(n₁ + n₂ − r)n₃) 個のガウス測定値が十分であることを示し、これは自由度 r(n₁ + n₂ − r)n₃ とオーダー的に最適である。

ABSTRACT

The recent proposed Tensor Nuclear Norm (TNN) [Lu et al., 2016; 2018a] is an interesting convex penalty induced by the tensor SVD [Kilmer and Martin, 2011]. It plays a similar role as the matrix nuclear norm which is the convex surrogate of the matrix rank. Considering that the TNN based Tensor Robust PCA [Lu et al., 2018a] is an elegant extension of Robust PCA with a similar tight recovery bound, it is natural to solve other low rank tensor recovery problems extended from the matrix cases. However, the extensions and proofs are generally tedious. The general atomic norm provides a unified view of low-complexity structures induced norms, e.g., the $\ell_1$-norm and nuclear norm. The sharp estimates of the required number of generic measurements for exact recovery based on the atomic norm are known in the literature. In this work, with a careful choice of the atomic set, we prove that TNN is a special atomic norm. Then by computing the Gaussian width of certain cone which is necessary for the sharp estimate, we achieve a simple bound for guaranteed low tubal rank tensor recovery from Gaussian measurements. Specifically, we show that by solving a TNN minimization problem, the underlying tensor of size $n_1 imes n_2 imes n_3$ with tubal rank $r$ can be exactly recovered when the given number of Gaussian measurements is $O(r(n_1+n_2-r)n_3)$. It is order optimal when comparing with the degrees of freedom $r(n_1+n_2-r)n_3$. Beyond the Gaussian mapping, we also give the recovery guarantee of tensor completion based on the uniform random mapping by TNN minimization. Numerical experiments verify our theoretical results.

研究の動機と目的

• TNN最小化を用いた低チューブランクテンソル回復の理論的回復保証を確立すること。
• TNN がアトムノルムフレームワークの特殊なケースであることを示し、低複雑性構造の統一的解析を可能にすること。
• チューブランク r のテンソルの正確な回復に必要なガウス測定値の数の鋭い上限を導出すること。
• 一様ランダムサンプリング下でのテンソル補完問題への解析を拡張し、サンプリング複雑度の上限を提供すること。
• 先行研究における誤った証明を是正・改善すること、特にテンソル補完の回復保証に関するもの。

提案手法

• 適切なアトム集合を特定することで、TNN がアトムノルムであることを証明し、アトムノルム理論の適用を可能にする。
• TNN ボールに関連する接空間のガウス幅を計算することで、鋭い回復境界を導出する。
• ガウス測定値下の回復問題に対して、ドミナント証明を構築するためにゴルフィングスキームを用いる。
• 集中不等式および行列の分散バウンド（例：補題11, 12, 14）を用いて、ドミナント証明の構築における誤差を制御する。
• 射影演算子のスペクトルノルムおよびフロベニウスノルムを解析し、ドミナント証明の条件を検証する。
• t-積構造および非一様性仮定を用いて、∥U∗V∗∥∞ および ∥U∗V∗∥∞,2 のバウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 TNN最小化は、ガウス測定値から低チューブランクテンソルを正確に回復できるか？
• RQ2 正確な回復に必要なガウス測定値の最小数は何か？ そして、これはオーダー的に最適か？
• RQ3 一様ランダムサンプリング下でも、TNN最小化は正確なテンソル補完を保証するか？
• RQ4 提案された解析は、先行研究と比べてどのように異なるか？ 特に、既存の証明における誤りを是正しているか？
• RQ5 アトムノルムフレームワークは、行列の拡張を超えたテンソル回復問題へも適用可能か？

主な発見

• TNN がアトムノルムの特殊なケースであることが証明され、低チューブランクテンソルの統一的理論的解析が可能になった。
• サイズ n₁ × n₂ × n₃、チューブランク r のテンソルは、O(r(n₁ + n₂ − r)n₃) 個のガウス測定値で正確に回復可能であることが保証された。
• 必要な測定値の数はオーダー的に最適であり、自由度 r(n₁ + n₂ − r)n₃ と定数倍の違いを除いて一致する。
• 一様ランダムサンプリング下でのテンソル補完において、サンプリング複雑度は O(r min(n₁, n₂)n₃ log²(min(n₁, n₂)n₃)) であり、対数因子を除いてオーダー的に最適である。
• Zhang より Aeron (2017) の誤った証明を是正し、ドミナント証明の条件を厳密に検証することで、誤りを是正した。
• 測定値の数が十分に大きい場合、p および t₀ の選択によって定量化されるように、ゴルフィングスキームによるドミナント証明の構築は高確率で成功する。