[論文レビュー] Exact Support and Vector Recovery of Constrained Sparse Vectors via Constrained Matching Pursuit

Jinglai Shen, Seyedahmad Mousavi|arXiv (Cornell University)|Mar 18, 2019

Sparse and Compressive Sensing Techniques参考文献 34被引用数 7

ひとこと要約

本稿では、一般の制約集合に対してスパースベクトルの正確なサポートおよびベクトル回復を実現するための制約付きマッチング追求（CMP）アルゴリズムを提案する。回復の成否が測定行列と制約集合の両方に強く依存することを示しており、主な貢献は非負、多面体、単調性などの制約を含む座標射影許容（CP許容）集合の導入と、制限イソメトリ図に類似た定数および直交性に類似た定数を用いた正確な回復の十分条件の確立である。

ABSTRACT

Matching pursuit, especially its orthogonal version and other variations, is a greedy algorithm widely used in signal processing, compressed sensing, and sparse modeling and approximation. Inspired by constrained sparse signal recovery, this paper proposes a constrained matching pursuit algorithm and develops conditions for exact support and vector recovery on constraint sets via this algorithm. We show that exact recovery via constrained matching pursuit not only depends on a measurement matrix but also critically relies on a constraint set. We thus identify an important class of constraint sets, called coordinate projection admissible set, or simply CP admissible sets. This class of sets includes the Euclidean space, the nonnegative orthant, and many others arising from various applications; analytic and geometric properties of these sets are established. We then study exact vector recovery on convex, CP admissible cones for a fixed support. We provide sufficient exact recovery conditions for a general fixed support as well as necessary and sufficient recovery conditions for a fixed support of small size. As a byproduct of our results, we construct a nontrivial counterexample to the necessary conditions of exact vector recovery via the orthogonal matching pursuit given by Foucart, Rauhut, and Tropp, when the a given support is of size three. Moreover, by making use of cone properties and conic hull structure of CP admissible sets and constrained optimization techniques, we also establish sufficient conditions for uniform exact recovery on CP admissible sets in terms of the restricted isometry-like constant and the restricted orthogonality-like constant.

研究の動機と目的

• 一般の制約下での正確なスパース回復の理論的理解のギャップ、特にOMPのような貪欲アルゴリズムに対するものに取り組む。
• 任意の制約集合を扱えるようにOMPを一般化した制約付きマッチング追求（CMP）アルゴリズムを開発する。
• 構造的スパarsityを満たす条件下で正確な回復を可能にする制約集合のクラスを同定・特徴付ける。
• 特に小スパースサイズの場合に、凸CP許容錐上での正確なベクトル回復の必要十分条件を導出する。
• 新しい制限イソメトリ図に類似た定数および直交性に類似た定数を用いて、一般の凸CP許容集合上での一様回復条件を確立する。

提案手法

• 各ステップで制約付き座標方向最適化により次のサポートインデックスを選択する制約付きマッチング追求（CMP）アルゴリズムを提案する。
• 各反復で、現在のサポート上での最良適合測定ベクトル制約を用いて、ターゲットベクトルを更新する制約付き最適化問題を解く。
• R、R+、R−の直積や、他のアプリケーション固有の集合を含む座標射影許容（CP許容）集合の概念を導入する。
• 一般の制約集合に対して、制限イソメトリ図に類似た定数δ̃Kおよび制限直交性に類似た定数θ̃Kを定義し、古典的なOMP定数を制約付き設定に拡張する。
• 凸解析および最適化技術を用いて、凸CP許容集合上での一様正確な回復の十分条件を導出する。
• 摂動解析を用いて、測定行列の小さな摂動に対しても回復条件の安定性を示し、回復条件を満たす行列の集合が行列空間で開集合であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 制約の導入が、OMPのような貪欲アルゴリズムの正確なサポートおよびベクトル回復性能にどのように影響するか？
• RQ2 どのような制約集合のクラスが制約付きマッチング追求により正確な回復を可能にし、その構造的性質は何か？
• RQ3 特に小スパースサイズ（例：K=2,3）の場合に、凸CP許容錐上での正確なベクトル回復の必要十分条件を導出可能か？
• RQ4 新しい制限定数を用いて、一般の凸CP許容集合上での一様正確な回復の十分条件は何か？
• RQ5 古典的なOMP回復の必要条件は、破られる可能性があるか？ もし可能であれば、どのような条件下で成立するか？

主な発見

• 制約付きマッチング追求による正確な回復は、測定行列だけでなく、制約集合の構造に強く依存する。
• CP許容集合のクラスが明確に定義され、非負性、多面体、単調性などの多くのアプリケーション関連制約を含むことが示された。
• サポートサイズK=2およびK=3の場合に、凸CP許容錐上での正確なベクトル回復の必要十分条件が導出された。
• K=3の場合に、Foucart, Rauhut, Troppによる有名なOMP正確回復の必要条件に対して、非自明な反例が構成され、この条件が普遍的に成立しないことが示された。
• 制限イソメトリ図に類似た定数δ̃Kおよび制限直交性に類似た定数θ̃Kを用いて、一般の凸CP許容集合上での一様正確な回復の十分条件が確立され、1−δ̃K > √K·θ̃K を満たす必要があることが示された。
• 回復条件を満たす行列の集合が行列空間で開集合であることが示され、測定行列の小さな摂動に対してもロバストであることが示された。