[論文レビュー] Exact recoverability from dense corrupted observations via $L_1$ minimization

Nam H. Nguyen, Trac D. Tran|arXiv (Cornell University)|Feb 7, 2011

Sparse and Compressive Sensing Techniques参考文献 35被引用数 13

ひとこと要約

本稿は、測定行列が直交行列のランダム部分行列である限り、$√l_1$-最小化が、ほぼ100%の観測値が破損している場合でさえもスパース信号を正確に回復できることを示している。主な結果として、$m = C\mu^2k(\log n)^2$ 測定値があれば正確回復が可能であることが示され、ここで$μ$は行列のコherー�ンスを表し、$k$は信号のスパarsityである。

ABSTRACT

This paper confirms a surprising phenomenon first observed by Wright extit{et al.} \cite{WYGSM_Face_2009_J} \cite{WM_denseError_2010_J} under different setting: given $m$ highly corrupted measurements $y = A_{Ω\bullet} x^{\star} + e^{\star}$, where $A_{Ω\bullet}$ is a submatrix whose rows are selected uniformly at random from rows of an orthogonal matrix $A$ and $e^{\star}$ is an unknown sparse error vector whose nonzero entries may be unbounded, we show that with high probability $\ell_1$-minimization can recover the sparse signal of interest $x^{\star}$ exactly from only $m = C μ^2 k (\log n)^2$ where $k$ is the number of nonzero components of $x^{\star}$ and $μ= n \max_{ij} A_{ij}^2$, even if nearly 100% of the measurements are corrupted. We further guarantee that stable recovery is possible when measurements are polluted by both gross sparse and small dense errors: $y = A_{Ω\bullet} x^{\star} + e^{\star}+ ν$ where $ν$ is the small dense noise with bounded energy. Numerous simulation results under various settings are also presented to verify the validity of the theory as well as to illustrate the promising potential of the proposed framework.

研究の動機と目的

• スパースだが任意に大きな誤差を持つ破損観測の下でスパース信号を回復する課題に取り組む。これは、画像処理やセンサーネットワークなどの実世界の応用で一般的な状況である。
• 従来の圧縮センシング理論を、小さな密度的ノイズにとどまらず、無限大の大きさをとるスパースな大きな誤差を含む状況にまで拡張する。
• 完全にランダムな行列よりも現実的で構造的な測定モデルを採用した上で、$\ell_1$-最小化による正確回復の理論的保証を確立する。
• 測定行列が直交行列のランダム部分行列である場合の$\ell_1$-最小化の性能を分析する。これは、MRI やトモグラフィーなどの応用においてより現実的である。
• スパースな大きな誤差と小さな密度的ノイズの両方が存在する状況において、安定かつ正確な再構成を保証する理論的基盤を提供する。

提案手法

• 信号$x$と誤差ベクトル$e$の$\ell_1$-ノルムを同時に最小化する凸最適化フレームワークを提案し、$y = Ax + e$ を満たす条件下で$\min_{x,e} \|x\|_1 + \|e\|_1$ を解く。
• 密度的破損の状況に適応したリストリクテッドアイソメトリーパラメータに類似した性質を用いて回復保証を分析し、コherー�ンスパラメータ$\mu = n \max_{ij} A_{ij}^2$ に注目する。
• タラグランドの集中不等式を用いて、独立な確率変数の和の上界を評価し、回復誤差の高確率でのバウンドを可能にする。
• 双対証明のノルムに関する確率的バウンドを導出し、$\ell_1$-最小化問題の解が高確率で真のスパース信号$x^*$と一致することを保証する。
• ジェンセンの不等式と行列集中の技法を用いて、直交行列からランダムに行を抽出した場合の双対証明ノルムの期待値を制御する。
• 測定数$m$が$C\mu^2k(\log n)^2$ に比例することを示し、これは環境次元$n$よりも著しく小さい、極端な破損下でも成立する。

実験結果

リサーチクエスチョン

• RQ1 スパース誤差が無限大の大きさをとり、ほぼすべての測定値が破損している状況下でも、$\ell_1$-最小化がスパース信号を正確に回復できるか？
• RQ2 このような極端な破損下で正確回復に必要な最小測定数は何か？ また、コherー�ンス$\mu$とスパarsity$k$にどのように依存するか？
• RQ3 測定行列が完全にランダムな行列ではなく、直交行列のランダム部分行列である場合でも回復保証は成り立つか？
• RQ4 スパースな大きな誤差と小さな密度的ノイズの両方が存在する場合に、安定な回復が達成可能か？
• RQ5 高い破損レベルと構造的測定行列を想定した場合、$\ell_1$-最小化の理論的性能は従来の手法と比べてどのように異なるか？

主な発見

• ほぼ100%の測定値がスパース誤差（無限大のエントリをもつ）によって破損している状況下でも、$m = C\mu^2k(\log n)^2$ 測定値があれば、$k$-スパース信号$x^*$の正確回復が高確率で可能である。
• 回復保証は、直交行列からランダムに行を抽出して得られる測定行列に対しても成り立つ。これは、先行研究で用いられる完全にランダムな行列よりも現実的である。
• 測定数のバウンドはコherー�ンス$\mu = n \max_{ij} A_{ij}^2$ に依存しており、低コherー�ンス行列は正確回復に必要な測定数が少ないことが示された。
• スパースな大きな誤差とエネルギーが有界な小さな密度的ノイズの両方が存在する場合、安定な回復が達成可能であり、再構成誤差はノイズレベルに比例して増大する。
• 理論的分析により、$\ell_1$-最小化が極端な破損下でも効果的であることが確認され、小さな有界ノイズしか仮定しない従来の手法を上回ることが示された。
• 数値シミュレーションにより、さまざまな設定で理論的結果が妥当であることが検証され、提案フレームワークのロバスト性と実用的潜在能力が示された。