[論文レビュー] Signal Recovery from Incomplete and Inaccurate Measurements via Regularized Orthogonal Matching Pursuit

Deanna Needell, Roman Vershynin|ArXiv.org|Dec 9, 2007

Sparse and Compressive Sensing Techniques参考文献 12被引用数 31

ひとこと要約

この論文は、不完全でノイズのある測定値からスパース信号を信頼性高く回復するグリーディーなアルゴリズムである正則化直交マッチング Pursuit (ROMP) を導入する。グリーディー手法の高速性と凸最適化の安定性保証を組み合わせることで、ROMP は回復誤差を $\sqrt{\log n}\|e\|_2$ に比例させ、ノイズが消失する場合には正確な回復を保証し、スパース信号の近似に対して安定な近似を実現する。

ABSTRACT

We demonstrate a simple greedy algorithm that can reliably recover a d-dimensional vector v from incomplete and inaccurate measurements x. Here our measurement matrix is an N by d matrix with N much smaller than d. Our algorithm, Regularized Orthogonal Matching Pursuit (ROMP), seeks to close the gap between two major approaches to sparse recovery. It combines the speed and ease of implementation of the greedy methods with the strong guarantees of the convex programming methods. For any measurement matrix that satisfies a Uniform Uncertainty Principle, ROMP recovers a signal with O(n) nonzeros from its inaccurate measurements x in at most n iterations, where each iteration amounts to solving a Least Squares Problem. The noise level of the recovery is proportional to the norm of the error, up to a log factor. In particular, if the error vanishes the reconstruction is exact. This stability result extends naturally to the very accurate recovery of approximately sparse signals.

研究の動機と目的

• スパース信号回復における高速なグリーディー手法と安定な凸プログラミング手法の間のギャップを埋める。
• 不完全でノイズのある測定値からスパースまたは近似的にスパースな信号を安定的かつ正確に回復できるグリーディー手法を開発する。
• ノイズレベルと信号のスパarsityを用いた回復誤差の理論的保証を提供し、正確なスパarsityを超える範囲に拡張する。
• グリーディー手法が、ノイズのある測定条件下で現実的な条件下で凸最適化と同等の安定性を達成できることを示す。

提案手法

• ROMP は、測定残差と感応行列 $\Phi$ の列との間の相関が最大となる原子（サポートインデックス）を反復的に選択する。
• 各反復で、選択されたサポート上での最小二乗問題を解き、信号推定値を更新する。
• 正則化ステップにより、ノイズや関係のない成分の含めを防ぎ、顕著な成分のみを保持する。
• 相関の大きさに基づくしきい値ルールを用いて、1反復で複数のインデックスを選択することで収束速度を向上させる。
• 安定な回復を保証するため、パrameter $(8n, \varepsilon)$ の制限付き等長性条件（RIC）を用い、$\varepsilon = 0.01/\sqrt{\log n}$ とする。
• 誤差バウンドと安定性の両方を改善するため、最良の $2n$-スパース近似への切断ステップを含む。

実験結果

リサーチクエスチョン

• RQ1 ノイズがあり不完全な測定条件下で、グリーディー手法が凸最適化と同等の安定性保証を達成できるか？
• RQ2 測定値がノイズで汚染された場合のグリーディー手法の理論的回復誤差バウンドは何か？
• RQ3 ノイズ増幅とスパース回復の観点から、ROMP の性能は凸プログラミングと比べてどうか？
• RQ4 測定誤差 $e$ が消失する場合、グリーディー手法である ROMP が正確な回復を保証できるか？
• RQ5 誤差バウンドに現れる対数因子 $\sqrt{\log n}$ は真の挙動を反映しているのか、それとも改善可能か？

主な発見

• ROMP は $N \ll d$ 個の測定値から $n$-スパース信号を、最大 $n$ 回の反復で回復でき、各反復で最小二乗問題を解く。
• 再構成誤差は $C\sqrt{\log 2n}\left(\|e\|_2 + \frac{\|v - v_n\|_1}{\sqrt{n}}\right)$ でバウンドされ、ノイズ下での安定性を保証する。
• 誤差ベクトル $e$ が消失する場合、ROMP は正確な回復を達成し、ノイズなしの場合の整合性を確認する。
• 数値実験により理論的誤差バウンドが確認され、実際には $\sqrt{\log n}$ 要因が改善可能である可能性が示唆される。
• パrameter $(8n, 0.01/\sqrt{\log n})$ を満たす測定行列に対して、ROMP は近似的にスパースな信号の安定な回復を提供する。
• 標準的な OMP よりも安定性に優れ、誤差バウンドにおいて凸プログラミングと同等でありながら、実装が著しく高速である。