[論文レビュー] Deterministic Bounds for Restricted Isometry of Compressed Sensing Matrices

Shriram Sarvotham, Richard G. Baraniuk|arXiv (Cornell University)|Mar 16, 2011

Sparse and Compressive Sensing Techniques参考文献 26被引用数 3

ひとこと要約

本稿は、部分行列の特異値の構造的解析およびグラスマン多様体上の幾何的パッキング/コーティングの議論を用いて、圧縮センシング行列における制限的等長性性質（RIP）定数の決定的上界および下界を確立する。これにより、ランダムなガウス行列と理論的に最適な行列との間で顕著な性能差が明らかになり、構造的な設計によってより良好なRIP比が達成可能であることが示された。

ABSTRACT

Compressed Sensing (CS) is an emerging field that enables reconstruction of a sparse signal $x \in {\mathbb R} ^n$ that has only $k \ll n$ non-zero coefficients from a small number $m \ll n$ of linear projections. The projections are obtained by multiplying $x$ by a matrix $Φ\in {\mathbb R}^{m imes n}$ --- called a CS matrix --- where $k < m \ll n$. In this work, we ask the following question: given the triplet $\{k, m, n \}$ that defines the CS problem size, what are the deterministic limits on the performance of the best CS matrix in ${\mathbb R}^{m imes n}$? We select Restricted Isometry as the performance metric. We derive two deterministic converse bounds and one deterministic achievable bound on the Restricted Isometry for matrices in ${\mathbb R}^{m imes n}$ in terms of $n$, $m$ and $k$. The first converse bound (structural bound) is derived by exploiting the intricate relationships between the singular values of sub-matrices and the complete matrix. The second converse bound (packing bound) and the achievable bound (covering bound) are derived by recognizing the equivalence of CS matrices to codes on Grassmannian spaces. Simulations reveal that random Gaussian $Φ$ provide far from optimal performance. The derivation of the three bounds offers several new geometric insights that relate optimal CS matrices to equi-angular tight frames, the Welch bound, codes on Grassmannian spaces, and the Generalized Pythagorean Theorem (GPT).

研究の動機と目的

• 与えられたkスパース信号に対して、任意のm×n圧縮センシング行列における制限的等長性性質（RIP）の根本的決定的限界を特定すること。
• 与えられたn, m, kに対して、R^{m×n}内に存在するすべての行列におけるRIP定数δkの理論的性能上限を同定すること。
• ランダムなガウス行列と最適な決定的構成との間の差を明らかにする境界を導出すること。
• 最適なCS行列、等角フレーム、グラスマン多様体符号、および一般化されたピタゴラスの定理との間の幾何的関係を確立すること。

提案手法

• 部分行列の特異値と全行列Φとの間の関係を分析することにより、構造的逆問題境界を導出する。
• CS行列をグラスマン多様体上の符号としてモデル化し、高次元部分空間における球体パッキングを活用することで、パッキング逆問題境界を構築する。
• グラスマン多様体上のコーティング議論を用いて到達可能なコーティング境界を確立し、これが最良のRIP性能を表す。
• 導出された特徴方程式の多項式の根の分析を用いて、Φのランダムなm×k部分行列内の特異値の分布を推定する。
• 理論的境界を、ガウス行列の実験的性能およびコンウェイ、ハーディン、スローヌのグラスマン多様体パッキングデータから得られた既知の最適行列と比較する。
• 構造的境界を用いてウェルチの境界をk > 2へ拡張し、k=2の場合に等価であることを示す。

実験結果

リサーチクエスチョン

• RQ1 任意のm×n圧縮センシング行列における制限的等長性定数δkの最もきつい決定的限界は何か？
• RQ2 RIPの観点から、ランダムなガウス行列の性能は、最適なCS行列の理論的限界と比べてどの程度か？
• RQ3 等角フレームやグラスマン多様体符号のような、最適なCS行列の背後にある幾何的・代数的構造は何か？
• RQ4 構造的境界のパrameterを用いて、Φのランダムなm×k部分行列の特異値分布を予測できるか？
• RQ5 k > 2の場合、構造的境界とウェルチの境界との関係は何か？

主な発見

• ランダムなガウス行列と理論的決定的限界との間に顕著な性能差が存在し、より優れたCS行列が存在することが示唆された。
• nが小さい場合、構造的境界がきついが、nが大きい場合、パッキング境界がよりきつい逆問題境界となる。
• k=2の場合、構造的境界は数学的にウェルチの境界と等価であり、本手法によりk > 2への拡張が可能となった。
• 導出された多項方程式の根が、Φのランダムに選択されたm×k部分行列の固有値の二乗の正確な推定値を提供する。
• シミュレーションにより、r_i²値（構造的境界から得られる）が部分行列内の特異値の実験的分布とよく一致することが確認された。
• コーティング境界はRIP性能の決定的到達限界を提供し、最適な行列がガウス行列よりも顕著に良好なδkを達成可能であることを示唆している。