[論文レビュー] The Gelfand widths of $\ell_p$-balls for $0<p\leq 1$

Simon Foucart, Alain Pajor+2 more|arXiv (Cornell University)|Feb 3, 2010

Sparse and Compressive Sensing Techniques参考文献 34被引用数 43

ひとこと要約

本稿は、$0 < p \leq 1$ および $p < q \leq 2$ の場合における $\ell_q^N$ 空間内での $\beta_p$-球のゲルファンド幅に対する鋭い上界および下界を、圧縮センシング手法を用いて確立する。$p < 1$ の場合の下界について、ドノホの研究では不完全であったが、本稿では完全な証明を提供する。また、最適漸近的挙動 $\sim \left(\frac{\ln(N/m)+1}{m}\right)^{1/p - 1/q}$ を導出し、スパース回復および $\ell_p$-最小化への応用を含む。

ABSTRACT

We provide sharp lower and upper bounds for the Gelfand widths of $\ell_p$-balls in the $N$-dimensional $\ell_q^N$-space for $0<p\leq 1$ and $p<q \leq 2$. Such estimates are highly relevant to the novel theory of compressive sensing, and our proofs rely on methods from this area.

研究の動機と目的

• ドノホの $0 < p < 1$ の場合の $\ell_p$-球のゲルファンド幅の下界証明における穴を埋めること。
• $0 < p \leq 1$ の $\ell_p$-球および弱-$\ell_p$-球に対するゲルファンド幅の鋭い漸近的挙動の完全で厳密な証明を提供すること。
• 圧縮センシング手法、特に $\ell_p$-最小化および制限等長性性質（RIP）が、$\ell_q$-ノルムにおけるスパース回復に対して最適境界をもたらすことを確立すること。
• $p < 1$ の場合でも、適切なRIP条件下で $\ell_1$-最小化が弱-$\ell_p$-球からの信号回復に有効であることを示すこと。
• 未解決のままだった弱-$\ell_1$-球のゲルファンド幅に対する最適境界の問題を解決すること。その結果、既知の推定と整合的であることが示される。

提案手法

• 双対性やカルの定理に依存せず、準バナッハ空間では成立しないことから、圧縮センシング手法を用いてゲルファンド幅の下界を導出する。
• 体積的議論と、互いに交わらない集合族 $\{x_I + \rho B_p^N\}$ を用い、測度濃縮およびエントロピー型推定を介して下界を導出する。
• $\delta_s \leq 1/3$ を満たす制限等長性性質（RIP）を用いて、$0 < p \leq 1$ の $\ell_p$-最小化の安定性を制御し、スパース回復のロバスト性を保証する。
• ベクトルをサイズ $s$ のブロックに分解し、$r = \min\{1, q\}$ を用いた $\ell_r$-ノルムの不等式を適用して、再構成の $\ell_q$-誤差を評価する。
• $\ell_1$-最小化を再構成写像 $\Delta_1$ として用い、$p < 1$ の場合の $\ell_p$-最小化 $\Delta_p$ に一般化することで、$q \geq 1$ の場合に $\ell_1$-最小化が依然として最適境界を達成することを示す。
• 補題2.3に基づく新規な議論を用いて、$\ell_p$-再構成の安定性に必要な $m$ の下界を導出し、$s > 1/c$ の制限を排除する。

実験結果

リサーチクエスチョン

• RQ1 $0 < p \leq 1$ および $p < q \leq 2$ の場合におけるゲルファンド幅 $d_m(B_p^N, \ell_q^N)$ の鋭い漸近的挙動は何か？
• RQ2 双対性やカルの定理に依存せず、準バナッハ空間では成立しないことから、$p < 1$ の $\ell_p$-球のゲルファンド幅の下界を厳密に証明できるか？
• RQ3 $p < 1$ の弱-$\ell_p$-球からの可縮信号の回復において、$\ell_1$-最小化が最適性を保つのか？
• RQ4 弱-$\ell_p$-球のゲルファンド幅の正しい漸近的スケーリングは何か？また、$\ell_p$-球との比較は？
• RQ5 上界における対数因子を $\ln(N/m)$ から $\ln(eN/m)$ に改善でき、これが最適であるか？

主な発見

• $0 < p \leq 1$ および $p < q \leq 2$ の場合、$\ell_p$-球のゲルファンド幅は、$p$ および $q$ のみに依存する定数を除いて、鋭い両側境界 $d_m(B_p^N, \ell_q^N) \asymp \left(\frac{\ln(N/m)+1}{m}\right)^{1/p - 1/q}$ を満たす。
• $p < 1$ の場合の下界について完全な証明を提供し、カルの定理が準バナッハ空間に拡張できないことから、ドノホの元々の議論における穴を解消する。
• 弱-$\ell_p$-球に対する上界は、圧縮センシング手法を用いて確立され、$\ell_1$-最小化が最適回復誤差 $\lesssim \left(\frac{\ln(eN/m)}{m}\right)^{1/p - 1/q}$ を達成することが示される。
• $p < 1$ の場合、$\ell_p$-球および弱-$\ell_p$-球の両方で同じ漸近的挙動が成立し、$\ell_1$-最小化が非凸的でスパースな信号モデルに対してもロバストであることを示唆する。
• $\ell_p$-再構成の安定性に必要な $m$ の下界は $m \gtrsim s \ln(eN/s)$ であり、これはすべての $s$ に対して一様に成り立つ。これにより、従来の $s > 1/c$ の制限が排除される。
• この結果は、$m \gtrsim s \ln(eN/s)$ の測定数を持つガウス確率的行列が、$0 < p \leq 1$ の $\ell_p$-ノルムにおける $s$-スパース信号の安定的かつロバストな回復を最適誤差境界とともに可能にすることを示唆する。