[論文レビュー] Various thresholds for $\ell_1$-optimization in compressed sensing

Mihailo Stojnic|ArXiv.org|Jul 21, 2009

Sparse and Compressive Sensing Techniques参考文献 79被引用数 77

ひとこと要約

本稿は、圧縮センシングにおける$Ø_1$-最適化の$β$-しきい値について、ランダム行列理論とガウス過程の不等式を用いて洗練された理論的分析を提供する。強さ、弱さ、断面のしきい値に対する下界を導出し、特にスパースネス$k = \beta n$および測定数$m = \alpha n$が$n$に対して線形に増加する線形領域において、既存の最高の結果と同等またはそれを上回る性能境界を達成する。分析では、i.i.d.標準ガウス分布に従うランダム測定行列を仮定し、$Ø_1$-最小化が非常に高い確率で$k$-スパース信号を正確に回復できる条件を確立する。

ABSTRACT

Recently, \cite{CRT,DonohoPol} theoretically analyzed the success of a polynomial $\ell_1$-optimization algorithm in solving an under-determined system of linear equations. In a large dimensional and statistical context \cite{CRT,DonohoPol} proved that if the number of equations (measurements in the compressed sensing terminology) in the system is proportional to the length of the unknown vector then there is a sparsity (number of non-zero elements of the unknown vector) also proportional to the length of the unknown vector such that $\ell_1$-optimization succeeds in solving the system. In this paper, we provide an alternative performance analysis of $\ell_1$-optimization and obtain the proportionality constants that in certain cases match or improve on the best currently known ones from \cite{DonohoPol,DT}.

研究の動機と目的

• 線形領域における圧縮センシングにおける$Ø_1$-最適化の新しい理論的性能分析を提供すること。
• $k$-スパース信号の正確な回復のための強さ、弱さ、断面のしきい値に対する下界を導出すること。
• 特に[28, 29]に示された結果と比較して、既存の最高のしきい値定数を改善または同等にすること。
• 測定行列$A$の核空間がグラスマン多様体上に一様に分布すると仮定した場合の$Ø_1$-最適化の性能を分析すること。
• 近似的にスパースな信号、ノイズのある測定、および$0 < q < 1$における$\ell_q$-最適化への将来的な拡張の基盤を築くこと。

提案手法

• 分析では、i.i.d.標準ガウス分布に従うランダム測定行列$A$を仮定し、核空間の仮定を用いて行列の核のグラスマン多様体分布をモデル化する。
• 高次元確率の高度な道具を適用し、特に[47]の結果を用いる。[47]は、球面上のリプシッツ関数の尾確率推定に[68, 20]の結果を基にしている。
• 鞍点近似と誤差関数の恒等式を用いて、核空間の幾何と$Ø_1$-最小化問題の可解性を分析することで、しきい値条件を導出する。
• 重要な方程式には、逆正規累積分布関数を含む超越方程式が含まれ、たとえば$ (1-ε)(1-\beta_{w}^{+}) \frac{\sqrt{1/(2\pi)} e^{-(\text{erfinv}(2\frac{1-\theta_{w}^{+}}{1-\beta_{w}^{+}}-1))^{2}}}{\theta_{w}^{+}} - \sqrt{2} \text{erfinv}((2\frac{(1+\epsilon)(1-\theta_{w}^{+})}{1-\beta_{w}^{+}}-1)) = 0 $のような式があり、これは弱いしきい値$\theta_{w}^{+}$を定義する。
• 集中法則と等周不等式に基づき、$Ø_1$-問題の解が真のスパース解と非常に高い確率で一致するように、理論的しきい値を導出する。
• このフレームワークは一般性を有し、ノイズのある設定、近似的にスパースな信号、$0 < q < 1$における$\ell_q$-最小化への拡張が可能である。

実験結果

リサーチクエスチョン

• RQ1 圧縮センシングの線形領域における$Ø_1$-最適化の強さ、弱さ、断面のしきい値に対する正確な下界は何か？
• RQ2 導出されたしきい値は、特に[28, 29]に示された既存の最高の結果と比較してどうなるか？
• RQ3 この分析フレームワークは、ノイズのある測定や近似的にスパースな信号を扱うために拡張可能か？
• RQ4 測定行列の核空間分布が回復しきい値を決定する上で果たす役割は何か？
• RQ5 $0 < q < 1$における$\ell_q$-最適化にこの結果を適応可能か？

主な発見

• 本稿は、逆正規累積分布関数を含む方程式系を用いて、弱いしきい値$\theta_w^+$の新しい下界を導出し、成功した回復のための臨界な$\alpha$および$\beta$値を特定する。
• 符号付きベクトルのケースでは、導出されたしきい値は、パラメータ範囲の大部分において[29, 30]の結果と一致するが、$\alpha \to 1$に近い狭い領域でのみ改善が見られる。
• 符号付きベクトルの強さしきい値は計算されたが、複雑さのため掲載されず、かつほとんどの場合において最新の技術を下回る性能であった。
• もし$\alpha$と$\beta_w^+$が誤差関数と指数関数を含む特定の不等式を満たしていれば、元のシステムの解と$Ø_1$-問題の解が非常に高い確率で一致することが確立された。
• このフレームワークは一般性を有し、ノイズのある圧縮センシング、近似的にスパースな信号、$0 < q < 1$における$\ell_q$-最適化の分析に拡張可能である。
• 結果は、投影されたクロス・ポリトープ、正則単体、正の直交座標の領域の近接性しきい値を決定する応用を持つため、独立した数学的関心を有する。