[論文レビュー] The performance of orthogonal multi-matching pursuit under RIP

Zhiqiang Xu|arXiv (Cornell University)|Oct 19, 2012

Sparse and Compressive Sensing Techniques参考文献 17被引用数 16

ひとこと要約

本稿では、測定行列が $(9s, 1/10)$-RIP を満たす場合、固定パラメータ $M_0 \leq 8$ を用いた直交的マルチマッチング・プルーリング（OMMP）が、任意の $s$-スパース信号を $s$ イタレーションで正確に回復できることを確立している。慢性的に減少する信号に対しては、$M = s^a$（$a \in [0, 1/2]$）を用いたOMMPが $O(s^{1-a})$ イタレーションで回復を達成し、OMPに比べて計算複雑性が顕著に低減される。

ABSTRACT

The orthogonal multi-matching pursuit (OMMP) is a natural extension of orthogonal matching pursuit (OMP). We denote the OMMP with the parameter $M$ as OMMP(M) where $M\geq 1$ is an integer. The main difference between OMP and OMMP(M) is that OMMP(M) selects $M$ atoms per iteration, while OMP only adds one atom to the optimal atom set. In this paper, we study the performance of orthogonal multi-matching pursuit (OMMP) under RIP. In particular, we show that, when the measurement matrix A satisfies $(9s, 1/10)$-RIP, there exists an absolutely constant $M_0\leq 8$ so that OMMP(M_0) can recover $s$-sparse signal within $s$ iterations. We furthermore prove that, for slowly-decaying $s$-sparse signal, OMMP(M) can recover s-sparse signal within $O(\frac{s}{M})$ iterations for a large class of $M$. In particular, for $M=s^a$ with $a\in [0,1/2]$, OMMP(M) can recover slowly-decaying $s$-sparse signal within $O(s^{1-a})$ iterations. The result implies that OMMP can reduce the computational complexity heavily.

研究の動機と目的

• 測定行列のRIP定数が有界である場合に、OMMP($M_0$) がすべての $s$-スパース信号を正確に $s$ イタレーションで回復できるような固定された $M_0$ が存在するかを特定すること。
• 慢性的に減少する $s$-スパース信号に対するOMMPにおいて、イタレーション数と選択パラメータ $M$ のトレードオフを分析すること。
• スパース信号のRIP条件を、$s$ に比例するのではなく絶対定数として与えるより自然な条件の下で、OMMPの理論的保証を確立すること。

提案手法

• 各イタレーションにおける誤差低減を制限するために、$9s$-スパース信号に対して固定定数 $\delta = 1/10$ を用いた制限付き等長性性質（RIP）を分析に用いる。
• 信号の残存成分のエネルギーと残差ノルムの低減を関連付ける重要な不等式を導出する。これにはRIPと信号の減少性の性質を活用する。
• 帰納的証明を用いて、信号が $\alpha$-減少性（$\alpha > \sqrt{(1+\delta_s)/(2 - (1+\delta_s)^2)}$）を満たす場合、推定信号のサポート $\Lambda^\ell$ が真の信号のサポート $\mathbf{x}$ の内側に保たれることを示す。
• 正しく原子が選択された場合に、残差ノルム $\|\mathbf{y} - A\mathbf{x}^\ell\|_2^2$ が幾何級数的に減少することを示すことで、証明を展開する。
• 各イタレーションで、現在の残差と相関が最大の $M$ 個の原子を選択し、選択されたサポート上で最小二乗更新を実行する。
• スパークと線形独立性の条件を用いて、サポートが正しく選ばれた場合に、最小二乗解が真の信号を正確に回復できることを保証する。

実験結果

リサーチクエスチョン

• RQ1 絶対定数 $M_0 \leq 8$ が存在し、$(9s, 1/10)$-RIP を満たす測定行列のもとで、OMMP($M_0$) がすべての $s$-スパース信号を正確に $s$ イタレーションで回復できるか？
• RQ2 $M = s^a$（$a \in [0, 1/2]$）のとき、OMMPは慢性的に減少する $s$-スパース信号を $O(s^{1-a})$ イタレーションで回復できるか？
• RQ3 RIP定数が $s$ に比例するのではなく絶対定数である場合、$s$-スパース信号を回復するためのOMMPに必要な最小イタレーション数は何か？

主な発見

• 測定行列が $(9s, 1/10)$-RIP を満たす場合、$M_0 \leq 8$ のOMMP($M_0$) は任意の $s$-スパース信号を $s$ イタレーションで正確に回復できる。
• 慢性的に減少する $s$-スパース信号に対しては、$M = s^a$（$a \in [0, 1/2]$）のOMMPが $O(s^{1-a})$ イタレーションで信号を回復する。
• 信号が $\alpha$-減少性（$\alpha > \sqrt{(1+\delta_s)/(2 - (1+\delta_s)^2)}$）を満たす場合、残差誤差は幾何級数的に減少し、真のサポートへの収束が保証される。
• 最小二乗法による選択サポート上の正確な回復を保証するため、行列 $A$ のスパークは $8s\log_2(2(s+1))$ を超えている必要がある。
• 与えられたRIPおよび減少性条件の下で、アルゴリズムはイタレーション全体にわたりサポートの包含関係を維持し、誤った原子の追加を防ぐ。
• 理論的分析により、$M = s^a$ の場合、$a$ が小さいほど $s$ から $O(s^{1-a})$ にイタレーション数が削減され、計算コストの顕著な低減が達成されることを示している。