[論文レビュー] On the Certification of the Restricted Isometry Property

Pascal Koiran, Anastasios Zouzias|arXiv (Cornell University)|Mar 25, 2011

Sparse and Compressive Sensing Techniques参考文献 21被引用数 9

ひとこと要約

本稿は、圧縮センシングにおける制限等方性性質（RIP）を証明する問題の計算的困難性を確立し、RIPパラメータの検証が、妥当な複雑性仮定のもとでは多項式時間で実行可能であるとは考えにくいことを示している。本稿では、密な部分グラフの存在を証明するためのスペクトル的手法を導入し、『ラクな列挙』アプローチによるブルートフォースRIP検証の改善を図り、RIP証明が√nの閾値を超えて計算的に困難である証拠を提供している。

ABSTRACT

Compressed sensing is a technique for finding sparse solutions to underdetermined linear systems. This technique relies on properties of the sensing matrix such as the restricted isometry property. Sensing matrices that satisfy the restricted isometry property with optimal parameters are mainly obtained via probabilistic arguments. Given any matrix, deciding whether it satisfies the restricted isometry property is a non-trivial computational problem. In this paper, we give reductions from dense subgraph problems to the certification of the restricted isometry property. This gives evidence that certifying the restricted isometry property is unlikely to be feasible in polynomial-time. Moreover, on the positive side we propose an improvement on the brute-force enumeration algorithm for checking the restricted isometry property. Another contribution of independent interest is a spectral algorithm for certifying that a random graph does not contain any dense k-subgraph. This "skewed spectral algorithm" performs better than the basic spectral algorithm in a certain range of parameters.

研究の動機と目的

• センシング行列に対する制限等方性性質（RIP）を検証する計算複雑性を調査すること。
• 多項式時間アルゴリズムがRIPパラメータを証明可能かどうか、あるいは異なるRIP順序を持つ行列を区別可能かどうかを特定すること。
• 最適化された列挙戦略を用いてブルートフォースRIP検証を改善する可能性を検討すること。
• RIP証明と密な部分グラフ検出問題との間の関係を、複雑性理論的仮定を用いて確立すること。

提案手法

• 密な部分グラフ問題を制限等方性性質の証明に還元し、妥当な仮定のもとでRIP証明が計算的に困難であることを示している。
• すべてのkスパース部分空間ではなく、l < kの基底ベクトルによって生成される部分空間を列挙する『ラクなアルゴリズム』を提案し、準多項式時間の許容のもとで√nの壁をわずかに超える性能を実現している。
• ランダムグラフにおけるk-部分グラフの密さの不在を証明する際、標準的なスペクトル手法よりも優れる『歪みスペクトルアルゴリズム』を導入している。
• ±1ベルヌーイ行列などの確率的行列構成を用いて、特定のパrameter条件下でRIP性質を保証する行列を構築している。
• NPが部分指数的確率的アルゴリズムを持たないという仮定（例：NP ⊈ ⋂_ε>0 BPTIME(2^{n^ε})）の下で、密なk-部分グラフ問題への還元を用い、RIP証明の困難性を確立している。
• 補題6を用いて、ベース行列C(G)のRIP性質をブロック対角行列C′(G) = diag(C(G), B_n)に伝播させ、RIP挙動を保存または拡張している。

実験結果

リサーチクエスチョン

• RQ1 k > √n の行列に対して、RIPを多項式時間で証明することは可能か？
• RQ2 RIP証明の計算的困難性は、密な部分グラフ検出といった既知の困難問題に還元可能か？
• RQ3 RIP順序kとパrameterδの間のトレードオフは何か？ そして、それをアルゴリズム的にどのように利用できるか？
• RQ4 スペクトル手法をどのように改善すれば、ランダムグラフにおける密な部分グラフの存在または不在をよりよく検出・証明できるか？
• RQ5 小さなRIPパラメータとより大きなRIPパラメータを持つ行列を区別する多項式時間アルゴリズムが存在する場合、既知の複雑性仮定と矛盾するか？

主な発見

• 仮定2（NPが部分指数的確率的アルゴリズムを持たない）のもとでは、k = Θ(n) の行列に対するRIP証明は多項式時間で実行可能であるとは考えにくい。
• 本稿では、k = Θ(n) に対して、δ₁ = κ/2 と δ₂ = κ のRIPパラメータを区別することは困難であることが示されており、κ ≤ √5/3 ≈ 0.745 である。これは、中程度のRIPパラメータですら計算的に挑戦的であることを示唆している。
• k = n^{3/4} の場合、仮定1のもとで、δ₁ = c₁n^{-1/12} と δ₂ = λc₁n^{-1/12}（任意のλ > 1）の区別が困難であることが示されている。これは、微小なパラメータ差ですら検出が困難であることを示している。
• 『ラクな列挙』アルゴリズムは、すべてのkスパース部分空間ではなく、l < kの基底ベクトルによって生成される部分空間に探索空間を制限することでブルートフォース法を改善し、準多項式時間の許容のもとで√nの壁をわずかに超える検証が可能になる。
• 本稿では、標準的なスペクトル手法よりも優れる新しい『歪みスペクトルアルゴリズム』を提案しており、特にパラメータの特定の範囲において、ランダムグラフにおけるk-部分グラフの密さの不在を証明する際に優れた性能を示している。
• 理論的結果として、k = αn（十分に小さいα > 0）に対して、ランダムなn×99n行列がパラメータδ₀でRIPの順序kを満たすことが示されており、n ≥ Cδ₀⁻²k log(eN/k) を満たす場合に成立する。これは十分に小さいδ₀に対して成り立ち、このような行列の存在を支持している。