[論文レビュー] Truncated Sparse Approximation Property and Truncated $q$-Norm Minimization

Wengu Chen, Peng Li|arXiv (Cornell University)|Jun 28, 2018

Sparse and Compressive Sensing Techniques参考文献 47被引用数 5

ひとこと要約

本稿は、ノイズのある測定下で、$q$-ノルム最小化を用いた近似的にスパースな信号および低ランク行列の安定回復を保証するための一般化されたロバストなノルム空間性質として、切断されたスパース近似性質（TSAP）を導入する。TSAPが制限的等方性性質（RIP）によって示されることを示し、$t \geq 4/3$ のとき $\delta_{tk} < \sqrt{(t-1)/t}$ を満たす場合に成立する。また、$\ell_p$-有界およびDantzigセレクターノイズモデルの両方において、明示的な誤差推定を伴う安定回復バウンドを確立する。

ABSTRACT

This paper considers approximately sparse signal and low-rank matrix's recovery via truncated norm minimization $\min_{x}\|x_T\|_q$ and $\min_{X}\|X_T\|_{S_q}$ from noisy measurements. We first introduce truncated sparse approximation property, a more general robust null space property, and establish the stable recovery of signals and matrices under the truncated sparse approximation property. We also explore the relationship between the restricted isometry property and truncated sparse approximation property. And we also prove that if a measurement matrix $A$ or linear map $\mathcal{A}$ satisfies truncated sparse approximation property of order $k$, then the first inequality in restricted isometry property of order $k$ and of order $2k$ can hold for certain different constants $\delta_{k}$ and $\delta_{2k}$, respectively. Last, we show that if $\delta_{t(k+|T^c|)}<\sqrt{(t-1)/t}$ for some $t\geq 4/3$, then measurement matrix $A$ and linear map $\mathcal{A}$ satisfy truncated sparse approximation property of order $k$. Which should point out is that when $T^c=\emptyset$, our conclusion implies that sparse approximation property of order $k$ is weaker than restricted isometry property of order $tk$.

研究の動機と目的

• ノイズのある測定下での可換信号および低ランク行列の安定回復のためのロバストなノルム空間性質フレームワークを確立すること。
• ノルム空間性質および制限的等方性性質の一般化として、切断されたスパース近似性質（TSAP）を定義し、分析すること。
• TSAPが成立する十分条件を導出し、特にTSAPと制限的等方性性質（RIP）との関連を特定し、RIP定数の特定の境界を示すこと。
• 切断された $q$-ノルム最小化を用いて、$\ell_p$-有界およびDantzigセレクターノイズモデルの両方における安定回復誤差バウンドを提供すること。

提案手法

• 信号および行列回復のための $\ell_p$-ノルムおよびDantzigセレクターモデル制約を備えた切断されたスパース近似性質（TSAP）を提唱する。
• TSAPを、誤差ベクトルの $k$-スパース近似の $\ell_q$-ノルムに関する境界として定義し、定数 $\beta$、$D$ およびノイズ項を含む。
• 測定行列 $A$ がTSAPを満たすための条件を導出し、$t \geq 4/3$ のとき $\delta_{tk} < \sqrt{(t-1)/t}$ であれば、$k$ 階のTSAPが成立することを示す。
• 測定行列 $A$ がTSAPを満たすならば、$\ell_p$-有界およびDantzigセレクターノイズモデルの両方において、切断された $q$-ノルム最小化による安定回復が保証されることを確立する。
• TSAPが $tk$ 階のRIPよりも厳密に弱いことを証明し、$T^c = \emptyset$（つまり標準的なスパースケース）の場合には、古典的なスパース近似性質が導かれることが示される。
• 理論を応用して、$\ell_2$-ノルムにおける両方のノイズモデル（$\ell_2$-有界およびDantzigセレクター）に対する明示的な誤差バウンドを導出し、$\sigma_k(x)_1/\sqrt{k}$ およびノイズレベルに依存する形で提示する。

実験結果

リサーチクエスチョン

• RQ1 ノイズのある測定下で、切断されたスパース近似性質（TSAP）を定義し、可換信号および低ランク行列の安定回復を保証するために使用可能か？
• RQ2 TSAPは制限的等方性性質（RIP）とどのように関係し、どのようなRIP条件下でTSAPが保証されるか？
• RQ3 TSAPを用いて、$\ell_p$-有界およびDantzigセレクターノイズモデルの両方における安定回復誤差バウンドを導出可能か？
• RQ4 TSAPはRIPよりも厳密に弱いか？また、$T^c = \emptyset$ の場合に、既知の結果が特殊ケースとして回復されるか？
• RQ5 TSAPフレームワークは低ランク行列回復に拡張可能か？また、既存のノルム空間性質と比較して、より優れた回復保証をもたらすか？

主な発見

• 測定行列 $A$ が $tk$ 階の制限的2等方性性質（RIP）を満たし、$t \geq 4/3$ のとき $\delta_{tk} < \sqrt{(t-1)/t}$ を満たすならば、$A$ は $k$ 階の切断されたスパース近似性質（TSAP）を満たす。
• $\ell_2$-ロバストなノルム空間性質およびDantzigセレクターのスパース近似性質は、TSAPによって示され、$tk$ 階の制限的2等方性性質よりも厳密に弱い。
• $\ell_2$-有界ノイズ（$\|z\|_2 \leq \varepsilon$）の下で、最小化解 $\hat{x}_{\ell_2}$ の誤差バウンドは $\|\hat{x}_{\ell_2} - x\|_2 \leq C_1(\varepsilon + \eta) + C_2 \sigma_k(x)_1 / \sqrt{k}$ であり、$C_1$ および $C_2$ は $\delta$ および $t$ の明示的な関数である。
• Dantzigセレクターのノイズ（$\|A^*z\|_\infty \leq \varepsilon$）の下で、$\hat{x}_{DS}$ の誤差バウンドは $\|\hat{x}_{DS} - x\|_2 \leq C_3(\varepsilon + \eta) + C_4 \sigma_k(x)_1 / \sqrt{k}$ であり、$C_3$ および $C_4$ は $\delta$ および $t$ に依存する。
• $T^c = \emptyset$ の場合、$\ell_2$-ロバストおよびDantzigセレクター版のTSAPは、$tk$ 階の制限的2等方性性質よりも厳密に弱く、条件の階層を示している。
• 結果は[9, 定理2.1]および[37, 定理1.1]の既知のバウンドを一般化しており、同一の誤差推定を有するが定数が異なる。これにより、先行研究と整合性があることが確認される。