[論文レビュー] Guarantees of Augmented Trace Norm Models in Tensor Recovery

Ziqiang Shi, Jiqing Han+3 more|arXiv (Cornell University)|Jul 23, 2012

Tensor decomposition and applications参考文献 9被引用数 3

ひとこと要約

本稿は、テンソル回復における増強トレースノルムモデルの回復保証を確立し、$\|\mathcal{X}\|_{*} + \frac{1}{2\alpha}\|\mathcal{X}\|_{F}^{2}$ を最小化することで、核ノルム最小化と同様の条件下で低ランクテンソルを正確に回復できることを示している。null-space, restricted isometry, または spherical section の性質を満たす測定作用素のもとで、$\alpha \geq 10\max_i\|X^{0}_{(i)}\|_{2}$ が成立すれば、正確な回復が保証されることを証明している。

ABSTRACT

This paper studies the recovery guarantees of the models of minimizing $\|\mathcal{X}\|_*+\frac{1}{2α}\|\mathcal{X}\|_F^2$ where $\mathcal{X}$ is a tensor and $\|\mathcal{X}\|_*$ and $\|\mathcal{X}\|_F$ are the trace and Frobenius norm of respectively. We show that they can efficiently recover low-rank tensors. In particular, they enjoy exact guarantees similar to those known for minimizing $\|\mathcal{X}\|_*$ under the conditions on the sensing operator such as its null-space property, restricted isometry property, or spherical section property. To recover a low-rank tensor $\mathcal{X}^0$, minimizing $\|\mathcal{X}\|_*+\frac{1}{2α}\|\mathcal{X}\|_F^2$ returns the same solution as minimizing $\|\mathcal{X}\|_*$ almost whenever $α\geq10\mathop {\max}\limits_{i}\|X^0_{(i)}\|_2$.

研究の動機と目的

• 凸的テンソル回復における増強トレースノルムモデルを用いた理論的回復保証を確立すること。
• null-space property (NSP) や restricted isometry property (RIP)、spherical section property (SSP) といった既存の行列レベルの回復条件を、テンソルの場合にまで拡張すること。
• 増強モデル $\|\mathcal{X}\|_{*} + \frac{1}{2\alpha}\|\mathcal{X}\|_{F}^{2}$ が真の低ランクテンソル $\mathcal{X}^0$ を正確に回復する条件を分析し、標準核ノルム最小化と同等の性能を達成できることを示すこと。
• 増強モデルと標準核ノルム最小化の間の同等性を保証する $\alpha $ の閾値を定量化すること。

提案手法

• 本稿は、線形測定 $\mathfrak{F}(\mathcal{X}) = b$ を満たす条件下で $\|\mathcal{X}\|_{*} + \frac{1}{2\alpha}\|\mathcal{X}\|_{F}^{2}$ を最小化するテンソル回復問題を定式化している。
• テンソル核ノルムは $\|\mathcal{X}\|_{*} = \frac{1}{N}\sum_{i=1}^{N}\|X_{(i)}\|_{*}$ として定義され、ここで $X_{(i)}$ は $\mathcal{X}$ のモード-$i$ へのアンフォールディングである。
• 正確な回復のための十分条件を導出するために、null-space 条件、restricted isometry properties (RIP)、spherical section properties (SSP) を分析している。
• null-space 条件が成立するように、$\mathcal{H} \in \text{Null}(\mathfrak{F})$ に対して $\|\mathcal{H}\|_{*}/\|\mathcal{H}\|_{F}$ の比を抑え込むための重要な不等式が導出されている。
• $\|X^{0}_{(i)}\|_{2}$ を用いて $\alpha $ の理論的境界が導出されており、$\alpha \geq 10\max_i\|X^{0}_{(i)}\|_{2}$ がRIPおよびSSP条件のもとで正確な回復を保証することが示されている。
• 本稿は、すべてのモードアンフォールディングにおける特異値分解とトレースノルムの性質を用いて、行列ベースの回復理論をテンソルに一般化している。

実験結果

リサーチクエスチョン

• RQ1 増強テンソル核ノルムモデル $\|\mathcal{X}\|_{*} + \frac{1}{2\alpha}\|\mathcal{X}\|_{F}^{2}$ が、どのような条件下で低ランクテンソル $\mathcal{X}^0$ を正確に回復するか？
• RQ2 $\alpha $ のパラメータが、増強モデルと標準核ノルム最小化の間の同等性にどのように影響を与えるか？
• RQ3 null-space property (NSP)、restricted isometry property (RIP)、spherical section property (SSP) を、増強モデルを用いたテンソル回復に拡張可能か？
• RQ4 与えられた低ランクテンソル $\mathcal{X}^0$ に対して、正確な回復を保証するための $\alpha $ の最小値は何か？

主な発見

• RIP もしくは SSP 条件のもとで、$\alpha \geq 10\max_i\|X^{0}_{(i)}\|_{2}$ であれば、増強モデル $\|\mathcal{X}\|_{*} + \frac{1}{2\alpha}\|\mathcal{X}\|_{F}^{2}$ は真の低ランクテンソル $\mathcal{X}^0$ を正確に回復する。
• $\delta_{(I_1,\dots,2r_n,\dots,I_N)} < 0.4715$ の場合、RIP 条件のもとで $\alpha \geq 10\max_i\|X^{0}_{(i)}\|_{2}$ が成立すれば、正確な回復が保証される。
• spherical section property (SSP) 条件 $\|\mathcal{H}\|_{*}/\|\mathcal{H}\|_{F} \geq \sqrt{m/\triangle}$ と $m \geq (2 + \|X^{0}_{(i)}\|_{2}/\alpha)^2 r_i \triangle$ が同時に成立すれば、すべての $i=1,\dots,N$ に対して正確な回復が保証される。
• null-space 条件は $\|\mathcal{H}\|_{*} \geq \max_i (2 + \|X^{0}_{(i)}\|_{2}/\alpha)\sqrt{r_i}\|\mathcal{H}\|_{F}$ が満たされていれば成立し、この不等式は導出された $\alpha $ の境界のもとで成立する。
• 本稿は、$\alpha \geq 10\max_i\|X^{0}_{(i)}\|_{2}$ のとき、増強モデルが標準核ノルム最小化と同等の回復性能を達成することを確立している。
• $\delta = 0.4404$ の場合、必要な $\alpha $ は約 $9.9849\|X^{0}_{(i)}\|_{2}$ であり、$10\max_i\|X^{0}_{(i)}\|_{2}$ の閾値が十分であることを裏付けている。