[論文レビュー] Compressive Principal Component Pursuit

John Wright, Arvind Ganesh+2 more|arXiv (Cornell University)|Feb 21, 2012

Sparse and Compressive Sensing Techniques参考文献 26被引用数 20

ひとこと要約

本稿では、少数のランダムな線形測定値から低ランクおよびスパース行列成分を回復するための圧縮主成分プルーリング手法を提案する。測定数が内在的自由度を多対数因子だけ上回れば、測定制約下で核ノルムと$$\ell^1$$ノルムを最小化する凸最適化フレームワークを用いて、正確な回復が達成可能であることを証明する。

ABSTRACT

We consider the problem of recovering a target matrix that is a superposition of low-rank and sparse components, from a small set of linear measurements. This problem arises in compressed sensing of structured high-dimensional signals such as videos and hyperspectral images, as well as in the analysis of transformation invariant low-rank recovery. We analyze the performance of the natural convex heuristic for solving this problem, under the assumption that measurements are chosen uniformly at random. We prove that this heuristic exactly recovers low-rank and sparse terms, provided the number of observations exceeds the number of intrinsic degrees of freedom of the component signals by a polylogarithmic factor. Our analysis introduces several ideas that may be of independent interest for the more general problem of compressed sensing and decomposing superpositions of multiple structured signals.

研究の動機と目的

• 高圧縮の線形測定値から低ランクおよびスパース行列成分を回復する問題に対処すること。
• 部分的測定値しか得られない圧縮センシングの枠組みに、ロバスト主成分分析（RPCA）を拡張すること。
• 低ランクおよびスパース分解問題の凸緩和が正確な回復を達成する理論的条件を確立すること。
• ランダム測定集合の下で、圧縮ロバスト行列回復の自然な凸ヒューリスティクスの性能を分析すること。
• 動画やハイパースペクトル画像などの構造的信号の圧縮センシングの理論的基盤を提供すること。

提案手法

• 低ランク成分の核ノルムとスパース成分の$$\ell^1$$ノルムを測定制約下で最小化する凸最適化問題として、圧縮ロバスト行列回復問題を定式化する。
• 低ランクおよびスパース成分と非整合性を示す高い確率で成立するランダム測定部分空間$Q$を用いる。
• 双対証明を用いた解析により、三つの部分$\mathbf{W}^L$、$\mathbf{W}^S$、$\mathbf{W}^T$から成る双対証明を構築し、解の最適性を保証する。
• ノイマン級数を用いて、スパース成分のサポート上での制約および低ランク成分の接空間への直交性を満たす双対変数$\mathbf{W}^S$を構築する。
• ベルンシュタインの不等式および集中不等式を用いて、特に$\mathbf{W}^L$のフロベニウスノルムをランダムサンプリング下で制御する。
• 測定数が内在的自由度を多対数因子だけ上回る場合に、双対証明が所定の条件を高確率で満たすことを示すことにより、回復保証を確立する。

実験結果

リサーチクエスチョン

• RQ1 凸最適化を用いて、少数のランダムな線形測定値から低ランクおよびスパース行列成分を正確に回復できるか？
• RQ2 圧縮設定下で、低ランクおよびスパース成分の正確な回復に必要な最小測定数は何か？
• RQ3 圧縮主成分プルーリングの凸ヒューリスティクスの性能は、成分のランクおよびスパarsityにどのように依存するか？
• RQ4 双対証明の構築が、解の最適性を証明するのに成功する条件は何か？
• RQ5 完全な行列次元より測定数をどれだけ削減できるか、依然として正確な回復を保証できるか？

主な発見

• 測定数が内在的自由度を多対数因子だけ上回れば、低ランクおよびスパース成分の正確な回復が保証される。
• 測定数が低ランクおよびスパース成分と非整合性を示す高い確率で成立するランダム測定集合の下で、回復条件が成立する。
• ランク$r$が$r \leq c_r n / (\mu \log^2 m)$を満たす場合、双対証明の構築は高確率で成功する。ここで$c_r$は十分に小さい定数である。
• 双対証明$\mathbf{W}^L$のフロベニウスノルムは$3\sqrt{r}$で有界であり、これは導出された条件下で解の最適性を保証する。
• ランクおよびスパarsityが十分に小さい限り、測定数が行列要素数の半分未満であっても、正確な回復が達成可能である。
• 理論的分析は、ランダム行列理論および双対性分野における新規な技術を導入し、構造的信号の圧縮センシングのより広範な問題への応用が可能である可能性を示している。