[論文レビュー] On efficiency of Orthogonal Matching Pursuit

Eugene Livshitz|arXiv (Cornell University)|Apr 22, 2010

Sparse and Compressive Sensing Techniques参考文献 9被引用数 8

ひとこと要約

本稿では、感応行列Φが順序[CK^{1.2}]の制限等長性性質（RIP）を満たし、等長性定数δ = cK^{-0.2}であり、整合性μ(Φ) ≤ 1/(20K^{0.8})である限り、直交匹配 Pursuit（OMP）がKスパース信号を正確に回復できることを確立している。この結果は、従来のO(K^2)測定数を要する境界を改善し、これらの条件下でOMPが最大[CK^{1.2}]反復内で正確な回復を達成することを示している。

ABSTRACT

We show that if a matrix $Φ$ satisfies the RIP of order $[CK^{1.2}]$ with isometry constant $\dt = c K^{-0.2}$ and has coherence less than $1/(20 K^{0.8})$, then Orthogonal Matching Pursuit (OMP) will recover $K$-sparse signal $x$ from $y=Φx$ in at most $[CK^{1.2}]$ iterations. This result implies that $K$-sparse signal can be recovered via OMP by $M=O(K^{1.6}\log N)$ measurements.

研究の動機と目的

• 直交マッチング Pursuit（OMP）が、従来の知られていたものよりも少ない測定数でKスパース信号を正確に回復できる、よりタイトな条件を確立すること。
• 制限等長性性質（RIP）および整合性に関する改善された境界を活用することで、OMPの測定要件をO(K^2)の閾値を下回る範囲にまで低減すること。
• 感応行列Φが特定のRIPおよび整合性制約を満たす場合、OMPが最大[CK^{1.2}]反復内で正確な回復を達成することを示すこと。
• OMPの圧縮センシングにおける実用的成功を理論的に裏付けるために、測定数の理論的境界をタイトにすること。

提案手法

• 解析は、順序[CK^{1.2}]の制限等長性性質（RIP）を満たす等長性定数δ = cK^{-0.2}および整合性μ(Φ) ≤ 1/(20K^{0.8})である2つの行列の性質に依存している。
• 証明は、OMPの反復ごとに残差ノルムとサポート回復の進行を追跡する再帰的帰納法を用い、誤差信号のエネルギーに関する再帰的境界を導出する。
• レムマが導出され、残差ノルム‖r^l‖および誤差信号のエネルギーがRIP定数δおよび整合性μ(Φ)の関数として境界づけられる。
• 多段階の反復的プロセスが採用され、各ステップで回復されたインデックス集合のサイズに基づいて回復をフェーズに分割し、各フェーズで削除されるインデックス数の境界が設定される。
• 残差の減衰とサポート拡張を制御するため、定理A（DevoreとTemlyakov）および定理B（Livshitz）が適用され、[CK^{1.2}]反復以内に収束することが保証される。
• 再帰的構造が用いられ、各フェーズでアクティブ集合のサイズに応じて少なくともK^{0.2}、K^{0.4}、K^{0.6}、またはK^{0.8}個のインデックスが削除され、各段階での残差エネルギーの減衰に関する境界が設定される。

実験結果

リサーチクエスチョン

• RQ1 緩和されたRIPおよび整合性条件の下で、OMPはO(K^2)よりも著しく少ない測定数でKスパース信号を回復できるか？
• RQ2 特定のRIPおよび整合性制約下で、Kスパース信号の正確な回復を保証するための最小測定数Mは何か？
• RQ3 RIPの順序、等長性定数δ、および整合性μ(Φ)の相互作用が、OMPの収束に要する反復回数にどのように影響するか？
• RQ4 従来の研究で知られていたO(K^2)測定数の境界を超えて、OMPの理論的性能を向上させられるか？
• RQ5 感応行列Φがδ = cK^{-0.2}およびμ(Φ) ≤ 1/(20K^{0.8})を満たす場合、Kスパース信号を回復するためのOMPの最大反復回数は何か？

主な発見

• 感応行列Φが順序[CK^{1.2}]のRIPを満たし、等長性定数δ = cK^{-0.2}であり、整合性μ(Φ) ≤ 1/(20K^{0.8})を満たす限り、OMPは任意のKスパース信号を最大[CK^{1.2}]反復で正確に回復する。
• 必要な測定数はM = O(K^{1.6} log N)であり、これは類似条件の下で従来のO(K^2)の境界よりも顕著に少ない。
• 正規化されたランダムなベルヌーイ行列では、高い確率でM = [C_M K^{1.6} log N]の測定数が定理1の条件を満たし、OMPによる正確な回復を可能にする。
• RIPと整合性の制約の組み合わせにより、残差ノルムが十分に速く減少し、提示された反復境界内での収束が保証される。
• 証明により、残差エネルギーR(V_{k+1}) = R(V_k extbackslash } Λ^{l_{k+1}})が各フェーズで少なくとも1/2に減少することが示され、最終的に0に収束することが保証される。
• 解析により、反復回数はCK^{1.2}で抑えられ、帰納法の全過程でl_k + p_A + K ≤ CK^{1.2}の条件が満たされることを示しており、境界が保たれることを保証する。