[論文レビュー] Sparse Recovery of Positive Signals with Minimal Expansion

Moein Khajehnejad, Alexandros G. Dimakis+2 more|ArXiv.org|Feb 24, 2009

Sparse and Compressive Sensing Techniques参考文献 6被引用数 25

ひとこと要約

本稿では、非負のスパース信号の効率的回復を可能にする、拡張グラフの摂動付き隣接行列を用いた新しいスパース測定行列の構築を提案する。非負性制約を活用することで、拡張係数を著しく削減した$β$-最小化が成功し、より高速な回復アルゴリズムと、ノイズへのロバスト性および近似的スパarsityに対するきめ細かい理論的保証を実現する。

ABSTRACT

We investigate the sparse recovery problem of reconstructing a high-dimensional non-negative sparse vector from lower dimensional linear measurements. While much work has focused on dense measurement matrices, sparse measurement schemes are crucial in applications, such as DNA microarrays and sensor networks, where dense measurements are not practically feasible. One possible construction uses the adjacency matrices of expander graphs, which often leads to recovery algorithms much more efficient than $\ell_1$ minimization. However, to date, constructions based on expanders have required very high expansion coefficients which can potentially make the construction of such graphs difficult and the size of the recoverable sets small. In this paper, we construct sparse measurement matrices for the recovery of non-negative vectors, using perturbations of the adjacency matrix of an expander graph with much smaller expansion coefficient. We present a necessary and sufficient condition for $\ell_1$ optimization to successfully recover the unknown vector and obtain expressions for the recovery threshold. For certain classes of measurement matrices, this necessary and sufficient condition is further equivalent to the existence of a "unique" vector in the constraint set, which opens the door to alternative algorithms to $\ell_1$ minimization. We further show that the minimal expansion we use is necessary for any graph for which sparse recovery is possible and that therefore our construction is tight. We finally present a novel recovery algorithm that exploits expansion and is much faster than $\ell_1$ optimization. Finally, we demonstrate through theoretical bounds, as well as simulation, that our method is robust to noise and approximate sparsity.

研究の動機と目的

• 圧縮センシングにおける非負スパース信号の効率的かつ決定的回復を可能にするスパース測定行列の設計の課題に取り組む。
• 既存の拡張グラフに基づく構成では、高い拡張係数を要し、実用的妥当性と回復可能な集合サイズに制限があるという問題を克服する。
• $β$-最小化がスパース測定行列を用いて非負$k$-スパースベクトルを成功裏に回復するための必要十分条件を提供する。
• 本構成で用いられる最小拡張係数が、いかなるグラフベース回復スキームに対しても理論的に必要であることを示す。
• 拡張性質を活用した新たな高速回復アルゴリズムを開発し、標準的な$β$-最小化よりも計算効率に優れる。

提案手法

• 二部グラフの拡張グラフの隣接行列を制御された低拡張係数で摂動することで、スパース測定行列を構築する。
• 測定行列の核空間に基づいて、$β$-最小化回復に成功するための必要十分条件を導入し、核空間ベクトルのすべてが十分に大きな負のサポートを持つことを要件とする。
• 非負の要素と一定な列和を持つ測定行列のクラスについて、$β$-最小化の成功が、制約集合${\bf A}{\bf x} = {\bf y}, {\bf x} \geq 0$における一意な非負解の存在と同値であることを証明する。
• アルゴリズム1を提案する。これは、低振幅測定値の反復的選択とスパース部分行列最適化に基づく高速回復手法であり、$O(nk^2)$の計算量を有する。
• ノイズあり回復のためのアルゴリズム2を設計する。測定値をソートし、最小の$m - kd$個を破棄した後、縮小された部分行列上で$\ell_1$-最小化を実行する。
• 理論的分析とシミュレーションを用いて、ノイズおよび近似的スパarsityに対するロバスト性を検証し、$\|{\bf v}\|_1$の項で誤差の境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 最小の拡張係数を有するスパース測定行列を構築し、非負スパース信号の決定的回復を可能にすることができるか？
• RQ2 スパース測定行列を用いて$β$-最小化が非負$k$-スパースベクトルを成功裏に回復するための必要十分条件は何か？
• RQ3 本構成で用いられる最小拡張係数は、理論的に最適である、すなわちいかなるグラフベース回復スキームに対しても必要であるか？
• RQ4 制約集合${\bf A}{\bf x} = {\bf y}, {\bf x} \geq 0$における非負解の一意性を用いて、$β$-最小化を超える代替回復アルゴリズムを可能にすることができるか？
• RQ5 ノイズや近似的スパース状態下でも、提案された回復アルゴリズムは標準的な$β$-最小化と比べて性能と速度で優れているか？

主な発見

• 摂動付き拡張グラフを用いた測定行列の構築により、先行研究と比較して著しく低い拡張係数で$β$-最小化回復が成功している。
• $β$-最小化成功のための必要十分条件が確立され、${\bf A}$のすべての核空間ベクトルが十分に大きな負のサポートを持つことが要件である。
• 非負の要素と一定な列和を持つ測定行列のクラスについて、$β$-最小化成功は、制約集合における一意な非負解の存在と同値であることが示された。
• 本構成で用いられる最小拡張係数が、いかなるグラフベース回復スキームに対しても理論的に必要であることが証明され、構成がタイトであることが示された。
• アルゴリズム1は$β$-最小化よりも高速に回復を実行でき、$O(nk^2)$の計算量を有するが、理論的境界は類似しているものの、実際の実行では著しく効率的である。
• アルゴリズム2はノイズにロバストであり、$\epsilon < 0.5$の下で理論的誤差境界$\|{\bf x} - \hat{{\bf x}}\|_1 \leq \frac{6 - 4\epsilon}{1 - 2\epsilon}\|{\bf v}\|_1$を有する。シミュレーションにより検証された。