[論文レビュー] Restricted isometry property of matrices with independent columns and neighborly polytopes by random sampling

Radosław Adamczak, Alexander E. Litvak+2 more|arXiv (Cornell University)|Apr 30, 2009

Sparse and Compressive Sensing Techniques参考文献 19被引用数 18

ひとこと要約

この論文は、独立で等方的かつサブ指数的尾部を示すランダム行列が、高確率で制限等長性性質（RIP）を満たすことを確立しており、これにより $ m $-スパースなベクトルが $ \ell_1 $-最小化によって正確に復元可能である。主な結果として、このような行列が $ m \leq Cn / \log^2(cN/n) $ の順序でRIPを満たすことが示され、行列の列の対称凸包が高確率で $ m $-中心的隣接多面体を形成することを示している。

ABSTRACT

This paper considers compressed sensing matrices and neighborliness of a centrally symmetric convex polytope generated by vectors $\pm X_1,...,\pm X_N\in\R^n$, ($N\ge n$). We introduce a class of random sampling matrices and show that they satisfy a restricted isometry property (RIP) with overwhelming probability. In particular, we prove that matrices with i.i.d. centered and variance 1 entries that satisfy uniformly a sub-exponential tail inequality possess this property RIP with overwhelming probability. We show that such "sensing" matrices are valid for the exact reconstruction process of $m$-sparse vectors via $\ell_1$ minimization with $m\le Cn/\log^2 (cN/n)$. The class of sampling matrices we study includes the case of matrices with columns that are independent isotropic vectors with log-concave densities. We deduce that if $K\subset \R^n$ is a convex body and $X_1,..., X_N\in K$ are i.i.d. random vectors uniformly distributed on $K$, then, with overwhelming probability, the symmetric convex hull of these points is an $m$-centrally-neighborly polytope with $m\sim n/\log^2 (cN/n)$.

研究の動機と目的

• 独立な列を有するランダム行列が制限等長性性質（RIP）を満たすための十分条件を確立すること。
• このような行列のRIPを、その列によって形成される中心的対称凸多面体の隣接性に関連付けること。
• $ \ell_1 $-最小化が、感応行列のRIPパラメータ $ \delta_{2m} < \sqrt{2}-1 $ を満たす場合に $ m $-スパースなベクトルを正確に再構成できることを示すこと。
• 高確率で正確な復元が可能となる最大スパース度 $ m $ の鋭い境界を導出すること。

提案手法

• 独立で等方的かつサブ指数的尾部減衰を示す列を有するランダム行列のクラスを導入し、$ \ell_2 $-ノルムの集中性を満たすことを確認する。
• $ \ell_1 $-再構成の正確性の十分条件として、RIP条件 $ \delta_{2m}(A/\sqrt{n}) < \sqrt{2}-1 $ を用いる。
• 線形形式の集中不等式と尾部推定を用いて、等長定数 $ \delta_{2m} $ を評価する。
• 指数的確率変数のSudakov型最小化原理を用い、スパースなベクトル上での行列の期待作用素ノルムの下界を導出する。
• 列 $ \pm X_1, \dots, \pm X_N $ の対称凸包 $ K(A) $ の幾何学的性質を分析し、導出された条件下でこれが $ m $-中心的隣接多面体であることを示す。
• 確率論的手法を用いてRIPおよび隣接性の失敗確率の上限を評価し、$ n \to \infty $ の下で指数的に減少することを示す。

実験結果

リサーチクエスチョン

• RQ1 独立な列の分布がどのような条件下で、ランダム行列が高確率で制限等長性性質（RIP）を満たすか？
• RQ2 このようなランダム行列を用いた $ \ell_1 $-最小化によって、$ m $-スパースなベクトルを正確に復元可能な最大のスパース度 $ m $ は何か？
• RQ3 列 $ \pm X_1, \dots, \pm X_N $ の対称凸包 $ K(A) $ の隣接性は、行列 $ A $ のRIPとどのように関係するか？
• RQ4 サブ指数的尾部仮定のもとで、正確な復元のための $ m $ の境界を $ m \sim n / \log^2(N/n) $ を超えて改善できるか？
• RQ5 高次元におけるRIPおよび隣接性の失敗確率の鋭いオーダーは何か？

主な発見

• 一様にサブ指数的尾部不等式を満たす i.i.d. 中心化エントリを有するランダム行列は、高確率で $ m \leq Cn / \log^2(cN/n) $ の順序で制限等長性性質（RIP）を満たす。
• 一様に等方的で対数凸密度を有する i.i.d. ベクトル $ X_i $ に対して、$ \pm X_1, \dots, \pm X_N $ の対称凸包は、高確率で $ m \sim n / \log^2(cN/n) $ の順序で $ m $-中心的隣接多面体である。
• i.i.d. エントリがサブ指数的尾部減衰を示す行列に対しては、$ m \leq Cn / \log^2(cN/n) $ の条件下で、$ \ell_1 $-最小化による $ m $-スパースなベクトルの正確な復元が高確率で可能である。
• スパースなベクトル上での行列の作用素ノルムの下界が一致することから、$ m $ の境界は数値定数の範囲で鋭いことが示された。
• RIPおよび隣接性の失敗確率は $ \exp(-c\sqrt{n}) $ のオーダーで減少し、$ n \to \infty $ の下で成功確率が非常に高いことを示している。
• この結果は、$ \mathbb{R}^n $ 内の凸体 $ K \subset \mathbb{R}^n $ 上に一様に分布するベクトルに対しても適用可能であり、その対称凸包が高確率で $ m \sim n / \log^2(cN/n) $ の順序で $ m $-中心的隣接多面体であることが示された。