[論文レビュー] Orthogonal Matching Pursuit with Thresholding and its Application in Compressive Sensing

Mingrui Yang, Frank de Hoog|arXiv (Cornell University)|Jul 8, 2013

Sparse and Compressive Sensing Techniques被引用数 3

ひとこと要約

本稿では、計算コストの高いグリーディ選択ステップをしきい値戦略に置き換えることで、計算複雑性を著しく低減した、圧縮センシングにおけるより少ないグリーディ性を有するスパース信号再構成アルゴリズムである、しきい値付き直交一致 Pursuit（OMPT）を提案する。グローバル2-整合性と制限等長性性（RIP）を用いることで、OMPTは同じ整合性およびRIPの仮定下で、標準的なOMPと同一の再構成性能を達成するが、計算複雑性が著しく低減される。

ABSTRACT

Greed is good. However, the tighter you squeeze, the less you have. In this paper, a less greedy algorithm for sparse signal reconstruction in compressive sensing, named orthogonal matching pursuit with thresholding is studied. Using the global 2-coherence , which provides a "bridge" between the well known mutual coherence and the restricted isometry constant, the performance of orthogonal matching pursuit with thresholding is analyzed and more general results for sparse signal reconstruction are obtained. It is also shown that given the same assumption on the coherence index and the restricted isometry constant as required for orthogonal matching pursuit, the thresholding variation gives exactly the same reconstruction performance with significantly less complexity.

研究の動機と目的

• スパース信号再構成における計算コストを低減する、直交一致 Pursuit（OMP）のより少ないグリーディ性を有する代替手法の開発。
• 相互整合性と制限等長性定数の間を橋渡しするグローバル2-整合性という指標を用いて、提案されたしきい値ベースのアルゴリズムの性能を分析すること。
• OMPTが、整合性およびRIPに関する同一の仮定下で、OMPと同一の再構成精度を達成することを示すこと。
• ノイズありおよびノイズなしの両状況において、再構成誤差および収束に関する理論的バインドを確立すること。
• k-スパース信号に対して、OMPTがk反復内で正確なサポートを回復できることを示し、OMPに比べて著しく低い計算複雑性を維持すること。

提案手法

• OMPTは、OMPのグリーディ選択ステップ（残差との内積が最大となる原子を選択）を、残差ノルムに基づくしきい値戦略に置き換える。
• 各反復において、残差ノルムを一度計算し、その一部としてしきい値を設定し、残差との内積がこのしきい値を超える原子のみを選択する。
• 選択された原子が張る部分空間への直交射影を実行することで、信号近似を更新し、原子の重複選択を回避する。
• グローバル2-整合性を理論的ツールとして用い、相互整合性と制限等長性定数を関連付けることで、よりタイトな性能解析を可能にする。
• ノイズ下での再構成誤差をバインドするために、モア・ペンローズ一般逆行列を用い、部分辞書の最小特異値を用いる。
• 収束性は、残差ノルムの幾何的減少バインドを導出することで分析され、適切にしきい値tが選ばれた場合、各反復で残差が$\sqrt{1 - t^2}$倍に減少することが示される。

実験結果

リサーチクエスチョン

• RQ1 OMPのしきい値ベースの変種は、計算コストを低減しつつ、標準OMPと同等のスパース信号再構成性能を達成できるか？
• RQ2 グローバル2-整合性の使用は、圧縮センシングにおけるグリーディアルゴリズムの理論的解析をどのように改善するか？
• RQ3 しきい値パラメータの選択が、ノイズありおよびノイズなしの両状況におけるOMPTの収束性および精度に与える影響は何か？
• RQ4 どのような条件下で、OMPTはk-スパース信号のサポートを正確にk反復で回復できるか？
• RQ5 制限等長性性と部分辞書の最小特異値を用いて、OMPTの再構成誤差をバインドできるか？

主な発見

• OMPTは、相互整合性および制限等長性定数（RIC）に関する同一の仮定下で、定理III.1および定理III.5で示されるように、OMPと全く同一の再構成性能を達成する。
• OMPTを用いた成功した再構成のためのRICのバインドは、OMPにおける最高の既知のバインドと同一であり、補題III.2で示されている。
• ノイズなしの場合、適切にしきい値パラメータが選ばれた場合、OMPTは正確にk反復でk-スパース信号のサポートを回復する。
• ノイズありの場合、再構成誤差は$\|\hat{a}_{\text{ompt}} - a\|_2 \leq \epsilon / \sigma_{\text{min}}$でバインドされ、ここで$\sigma_{\text{min}}$は部分辞書の最小特異値である。
• 残差ノルムは$\|r_k\| \leq (1 - t^2)^{k/2} \|f\|$として幾何的に減少し、停止基準$\|r_m\| \leq t\|f\|$を満たすまでに$m \leq \frac{2\ln t}{\ln(1 - t^2)}$反復で収束が保証される。
• OMPTは各反復におけるすべての内積を完全に計算するのを避けることで、計算複雑性を低減し、代わりに1回の残差ノルム計算としきい値比較に依存する。