[論文レビュー] Block-length dependent thresholds in block-sparse compressed sensing

Mihailo Stojnic|ArXiv.org|Jul 21, 2009

Sparse and Compressive Sensing Techniques参考文献 90被引用数 46

ひとこと要約

本稿は、測定行列のnull空間をGrassmann多様体上で一様分布すると仮定することで、ℓ2/ℓ1-最適化を用いたブロックスパースな圧縮センシングにおける回復可能なブロックスパース度の鋭い、ブロック長依存の下界を確立する。強化、セクション単位、弱化の回復に関する理論的閾値を導出し、これらは明示的にブロック長に依存する。数値シミュレーションにより、理論的予測と非常に近い一致が確認されている。

ABSTRACT

One of the most basic problems in compressed sensing is solving an under-determined system of linear equations. Although this problem seems rather hard certain $\ell_1$-optimization algorithm appears to be very successful in solving it. The recent work of \cite{CRT,DonohoPol} rigorously proved (in a large dimensional and statistical context) that if the number of equations (measurements in the compressed sensing terminology) in the system is proportional to the length of the unknown vector then there is a sparsity (number of non-zero elements of the unknown vector) also proportional to the length of the unknown vector such that $\ell_1$-optimization algorithm succeeds in solving the system. In more recent papers \cite{StojnicICASSP09block,StojnicJSTSP09} we considered the setup of the so-called extbf{block}-sparse unknown vectors. In a large dimensional and statistical context, we determined sharp lower bounds on the values of allowable sparsity for any given number (proportional to the length of the unknown vector) of equations such that an $\ell_2/\ell_1$-optimization algorithm succeeds in solving the system. The results established in \cite{StojnicICASSP09block,StojnicJSTSP09} assumed a fairly large block-length of the block-sparse vectors. In this paper we consider the block-length to be a parameter of the system. Consequently, we then establish sharp lower bounds on the values of the allowable block-sparsity as functions of the block-length.

研究の動機と目的

• 線形領域におけるℓ2/ℓ1-最適化のブロックスパース信号回復性能を分析すること。
• ブロック長の関数として回復可能なブロックスパース度の鋭い下界を導出すること。
• 明示的にブロック長に依存する、強化、セクション単位、弱化の理論的閾値を確立すること。
• 合成測定行列を用いた数値実験を通じて理論的予測を検証すること。
• 従来の研究が大きなブロック長を仮定していたのを補足し、ブロック長をシステムパラメータとして扱うことによる一般化を図ること。

提案手法

• 測定行列Aのnull空間がGrassmann多様体上で一様分布すると仮定する。
• 高次元確率および測度集中の道具を用い、特に[20, 67, 47]におけるLipschitz関数および正規尾部の境界に関する結果を活用する。
• ブロックスパース信号回復の弱化、セクション単位、強化の理論的下界を導出する。
• ℓ2/ℓ1-最適化によるブロックスパースベクトルの回復成功を分析するための確率的フレームワークを適用する。
• i.i.d. ガウス行列を用いた数値実験を通じて回復性能をシミュレートする。
• シミュレートされた回復率と理論的閾値予測を比較し、強い一致が得られることを示す。

実験結果

リサーチクエスチョン

• RQ1 ブロック長が有限パラメータである場合、ℓ2/ℓ1-最適化で回復可能な最小ブロックスパース度は何か？
• RQ2 線形領域におけるブロックスパース信号の理論的回復閾値は、ブロック長にどのように依存するか？
• RQ3 ブロック長を明示的に考慮する、弱化閾値の鋭い下界を導出できるか？
• RQ4 理論的閾値は、シミュレーションにおける実際の回復性能をどれほど正確に予測できるか？
• RQ5 ℓ2/ℓ1-最適化の性能は、異なるブロック長および測定比において一貫性を示すか？

主な発見

• 本稿は、線形領域におけるℓ2/ℓ1-最適化のブロックスパース信号回復において、鋭いブロック長依存の下界を導出している。
• 定理5から導出された理論的弱化閾値は、シミュレートされた回復性能と強く一致している。
• N=100およびd=15の数値実験により、理論的閾値が実験的成功境界と非常に近接していることが確認された。
• 従来の研究が大きなブロック長を仮定していたのを補足し、ブロック長を変数として扱うことで、より一般化された結果が得られた。
• 本分析フレームワークは、近似的なブロックスパース信号、ノイズのある測定、非凸なℓ2/ℓq-最適化（0 < q < 1）へも拡張可能である。
• 測定行列のnull空間がGrassmann多様体上に一様分布していると制限されない場合でも、理論的保証は有効であるが、さらなる一般化が必要である。