[論文レビュー] Reconstruction from anisotropic random measurements

Mark Rudelson, Shuheng Zhou|arXiv (Cornell University)|Jun 6, 2011

Sparse and Compressive Sensing Techniques参考文献 23被引用数 22

ひとこと要約

本稿は、従来の独立同分布（i.i.d.）仮定が成り立たない非等方的ランダム行列に対し、依存するエントリを有する行列における制限固有値（RE）条件を確立する。具体的には、スパースなサポートに基づく低次元部分空間における制限等長性の検証によってREを確認する「還元原理」を導入し、サブガウスィアンな行と一様有界なエントリを有する行列に対して、REが高確率で成り立つことを証明する。主な貢献は、等方的仮定が成り立たない広範な非等方的ランダム行列クラスに対して、ℓ₁最小化によるロバストなスパース回復が可能であることを示したことにある。

ABSTRACT

Random matrices are widely used in sparse recovery problems, and the relevant properties of matrices with i.i.d. entries are well understood. The current paper discusses the recently introduced Restricted Eigenvalue (RE) condition, which is among the most general assumptions on the matrix, guaranteeing recovery. We prove a reduction principle showing that the RE condition can be guaranteed by checking the restricted isometry on a certain family of low-dimensional subspaces. This principle allows us to establish the RE condition for several broad classes of random matrices with dependent entries, including random matrices with subgaussian rows and non-trivial covariance structure, as well as matrices with independent rows, and uniformly bounded entries.

研究の動機と目的

• 従来の等方的仮定が成り立たない依存的エントリと非等方的構造を有するランダム行列に対し、スパース回復の保証を拡張すること。
• ℓ₁最小化における高次元スパース回復の一般的かつ最小限の要件として、制限固有値（RE）条件を確立すること。
• スパースなサポートに基づく低次元部分空間における制限等長性の検証によってREを検証する還元原理を構築し、複雑な行列アンサンブルに対する検証を簡素化すること。
• サブガウスィアンなランダム行列（非自明な共分散を有し、一様有界なエントリを有する）に対して、REが高確率で成り立つことを証明し、統計学および信号処理分野における適用範囲を拡大すること。

提案手法

• 還元原理を導入：RE条件が、スパースなサポートによって定義される低次元部分空間の族における制限等長性が確認されれば成立する。
• メトリックエントロピーと被覆数の推定を用いて、RE条件に関連するラデマッハ・コーシー過程の期待値の上限を評価する。
• 一般化チェーンングおよびガウス過程の技術を用いて、設計行列に関連する二次形式の尾部挙動を制御する。
• 体積的およびメトリックエントロピーの議論を用いて、高次元空間におけるユークリッド球面の和集合の被覆数を推定する。
• 最小スパース特異値ρに関する確率的バインディングを導出し、非等方的設計におけるRE条件の強度を定量化する。
• ルドルフソンとヴェルシニン（2008）の手法を非等方的かつ依存的な行構造を有するランダム行列に適応する。

実験結果

リサーチクエスチョン

• RQ1 依存的エントリと非自明な共分散構造を有するランダム行列に対して、制限固有値条件を保証することは可能か？
• RQ2 全行列ではなく、低次元部分空間における制限等長性の検証によってRE条件を検証することは可能か？
• RQ3 非等方的ランダム行列に対して、RE条件が高確率で成り立つために必要な最小の標本サイズnは何か？
• RQ4 最小スパース特異値ρが非等方的設定におけるRE条件のタイトさにどのように影響するか？
• RQ5 RE条件は、高次元スパース回復における一様不確実性原理（UUP）をどの程度一般化するか？

主な発見

• mスパースなベクトルに対して、n ≥ Cρ⁻¹m log(p/m) を満たす場合、サブガウスィアンな行と非自明な共分散を有するランダム行列に対して、RE条件は高確率で成り立つ。
• 還元原理により、RE条件の検証がO(p^m)個の低次元部分空間における制限等長性の確認に帰着され、解析が著しく簡素化される。
• 独立的かつ一様有界なエントリを有する行列に対しては、n ≳ m log p のとき、RE条件は高確率で成り立ち、等方的仮定下での既知の境界と一致する。
• ラデマッハ・コーシー過程の期待値の上限が、O(√(mQ² log n log p / ρ)) に比例することを示した。ここでQは行ノルムの上界である。
• 最小スパース特異値ρへの依存性が必要であることが、ρ = m/p であるタイトな例によって示され、この場合n ≥ Cp log p が必要である。
• ブロック対角 Walsh 行列を用いた構成により、下界と一致する例が得られ、導出されたバインディングが対数要因を除いてタイトであることが確認された。