[論文レビュー] Improved RIP Analysis of Orthogonal Matching Pursuit

Ray Maleh|arXiv (Cornell University)|Feb 21, 2011

Sparse and Compressive Sensing Techniques参考文献 20被引用数 22

ひとこと要約

本稿では、T-スパース信号の再構成における直交匹配 Pursuit (OMP) の制限的等長性性質 (RIP) に基づく性能保証を改善し、予想される理論的下界に漸近的に収束することを示している。さらに、測定ノイズを含む非スパース信号の再構成誤差バウンドを導出し、K-フォールド OMP (KOMP) へ一般化し、悲観的な最悪ケースRIP解析にもかかわらず強力な実験的性能を示している。

ABSTRACT

Orthogonal Matching Pursuit (OMP) has long been considered a powerful heuristic for attacking compressive sensing problems; however, its theoretical development is, unfortunately, somewhat lacking. This paper presents an improved Restricted Isometry Property (RIP) based performance guarantee for T-sparse signal reconstruction that asymptotically approaches the conjectured lower bound given in Davenport et al. We also further extend the state-of-the-art by deriving reconstruction error bounds for the case of general non-sparse signals subjected to measurement noise. We then generalize our results to the case of K-fold Orthogonal Matching Pursuit (KOMP). We finish by presenting an empirical analysis suggesting that OMP and KOMP outperform other compressive sensing algorithms in average case scenarios. This turns out to be quite surprising since RIP analysis (i.e. worst case scenario) suggests that these matching pursuits should perform roughly T^0.5 times worse than convex optimization, CoSAMP, and Iterative Thresholding.

研究の動機と目的

• 直交一致 Pursuit (OMP) の制限的等長性性質 (RIP) 分析を用いた理論的性能保証の改善。
• 測定ノイズによる汚損を受けた非スパース信号への拡張解析を行い、再構成誤差バウンドを提供。
• 結果をK-フォールド直交一致 Pursuit (KOMP) に一般化し、マルチ・プルーリング回復を可能にする。
• 理論的最悪ケースRIPバウンドと実際の実験的性能の調和を図る。実際には、凸最適化法よりも優れた性能を示すことがある。

提案手法

• OMPを用いたT-スパース信号の正確な再構成のための新しいRIPに基づく十分条件を導出し、予想される理論的下界に近づける。
• RIP定数を用いて、有界な測定ノイズ下での一般非スパース信号の再構成誤差バウンドを導入。
• K-フォールド版のOMP（KOMP）を提案し、このマルチ直交一致プルーリングフレームワークへのRIP解析を拡張。
• スパarsityとノイズレベルの変動に応じた理論的回復保証を確立するために、RIP定数に基づく最悪ケース解析を採用。
• 各OMP反復における残差誤差をバウンドするために、数学的帰納法とベクトル射影解析を用いる。
• OMPとKOMPを他の圧縮センシングアルゴリズムと比較する実験的シミュレーションにより、理論的発見を検証。

実験結果

リサーチクエスチョン

• RQ1 OMPのRIPに基づく再構成条件は、予想される理論的下界に近づけるか？
• RQ2 測定ノイズを含む非スパース信号に適用したOMPの再構成誤差バウンドは何か？
• RQ3 同じRIP条件下で、K-フォールドOMP（KOMP）の性能は標準OMPと比べてどうか？
• RQ4 最悪ケースRIP保証が劣っているにもかかわらず、なぜOMPとKOMPは実際には凸最適化法（例：CoSAMP やイテレーティブ・ハード・スレッディング）を上回る性能を示すのか？
• RQ5 理論的RIPバウンドは、一致プルーリングアルゴリズムの平均ケース性能をどれほど正確に予測できるか？

主な発見

• 提案されたOMPのRIPに基づく再構成条件は、漸近的に予想される下界に近づき、従来の理論的保証を改善している。
• RIP定数とノイズレベルに依存する非スパース信号再構成誤差バウンドが導出され、測定ノイズに対するロバストネスを提供している。
• 解析はKOMPに一般化され、マルチプルプルーリング戦略が同様のRIP条件下で理論的回復保証を維持していることが示された。
• 実験的結果から、OMPとKOMPは平均ケースシナリオにおいて、凸最適化法やイテレーティブスレッディング法を上回ることが分かった。
• RIPに基づく理論的最悪ケース解析では、OMPは凸法と比較しておおよそT^0.5倍劣ると予想されるが、実際の結果はこれとは矛盾しており、最悪ケースと平均ケースの性能ギャップが存在することが示唆された。
• 改善されたRIP条件により、以前のバウンドよりも厳しくないRIP要件でT-スパース信号の正確な再構成が可能となり、実用的応用性が向上した。