[論文レビュー] The statistical restricted isometry property and the Wigner semicircle distribution of incoherent dictionaries

Shamgar Gurevich, Ronny Hadani|ArXiv.org|Dec 14, 2008

Mathematical Analysis and Transform Methods参考文献 28被引用数 21

ひとこと要約

本稿は、正規直交基底の非重複和集合である非一様辞書のための統計的制限等長性（SRIP）を導入する。サイズ $ n = p^{1-\rho} $ のランダム部分集合に対して、グラム行列の固有値は1のまわりで変動し、Wignerの半円分布に従う。また、$ \mathbf{G}(S) - \mathrm{Id}_S $ の作用素ノルムは $ p^{-\rho/2} $ のオーダーで減少し、ヒーゼンベルクおよびオシレーター族のような決定論的辞書におけるRIPに対する強い理論的根拠を提供する。

ABSTRACT

In this article we present a statistical version of the Candes-Tao restricted isometry property (SRIP for short) which holds in general for any incoherent dictionary which is a disjoint union of orthonormal bases. In addition, we show that, under appropriate normalization, the eigenvalues of the associated Gram matrix fluctuate around 1 according to the Wigner semicircle distribution. The result is then applied to various dictionaries that arise naturally in the setting of finite harmonic analysis, giving, in particular, a better understanding on a remark of Applebaum-Howard-Searle-Calderbank concerning RIP for the Heisenberg dictionary of chirp like functions.

研究の動機と目的

• 決定論的辞書が正規直交基底の非重複和集合である場合の統計的制限等長性（SRIP）を確立すること。
• サイズ $ n = p^{1-\rho} $ のランダム部分集合 $ S \to \mathrm{D} $ に対するグラム行列 $ \mathbf{G}(S) $ のスペクトル的挙動を分析し、その固有値が単位行列の周りに集中することを示すこと。
• 正規化された固有値のフラクチュエーション $ \mathbf{G}(S) $ が、$ p \to \infty $ の極限で確率的にWignerの半円分布に収束することを示すこと。
• これらの結果を有限調和解析からの自然な辞書（ヒーゼンベルグ、オシレーター、拡張オシレーター辞書）に適用し、それらのRIP挙動に関する新たな知見を提供すること。
• アプレバウムらのヒーゼンベルグ辞書に関する一言の指摘を解消すること。ランダムサンプリング下でそのRIPに類似する性質が統計的に現れることを示すこと。

提案手法

• 各 $ B_x $ がヒルバート空間 $ \mathcal{H} $ の正規直交基底であり、$ \dim \mathcal{H} = p $ であるような辞書 $ \mathrm{D} = \coprod_{x \in \mathfrak{X}} B_x $ に対する統計的制限等長性（SRIP）を定義すること。
• サイズ $ n = p^{1-\varepsilon} $ の一様ランダム部分集合 $ S \subset \mathrm{D} $ に対して、作用素ノルム $ \| \mathbf{G}(S) - \mathrm{Id}_S \| $ を分析し、高確率で $ p^{-\varepsilon/2} $ 以下であることを証明すること。
• 固有値のフラクチュエーションを研究するために、正規化誤差作用素 $ \mathbf{E}(S) = (p/n)^{1/2}(\mathbf{G}(S) - \mathrm{Id}_S) $ を導入すること。
• $ p \to \infty $ のとき、スペクトル分布 $ \rho_{\mathbf{E}(S)} $ が確率的にWignerの半円分布 $ \rho_{SC}(x) = \frac{1}{2\pi} \sqrt{4 - x^2} \cdot \mathbf{1}_{[-2,2]}(x) $ に収束することを証明すること。
• 尾確率 $ P(\| \mathbf{G}(S) - \mathrm{Id}_S \| \geq p^{-\varepsilon/2}) \leq C(k) p^{1 - \varepsilon k / 2} $ における定数 $ C(k) $ を非一様係数 $ \mu $ を用いてバインドし、$ p $ に対して任意の多項式より速く減少することを示すこと。
• これらの結果を三つの自然な辞書（ヒーゼンベルグ、オシレーター、拡張オシレーター辞書）に適用し、すべてが必要な構造的および非一様性条件を満たしていること。

実験結果

リサーチクエスチョン

• RQ1 非一様辞書が正規直交基底の非重複和集合である場合、統計的制限等長性（SRIP）は成立するか？
• RQ2 サイズ $ n = p^{1-\varepsilon} $ のランダム部分集合 $ S \subset \mathrm{D} $ に対するグラム行列 $ \mathbf{G}(S) $ の固有値は1のまわりでどのように変動するか？
• RQ3 正規化誤差 $ \mathbf{E}(S) $ のスペクトル分布は、$ p \to \infty $ の極限でWignerの半円分布に確率的に収束するか？
• RQ4 ヒーゼンベルグ、オシレーター、および拡張オシレーター辞書はSRIPを満たし、半円型固有値統計を示すか？
• RQ5 ヒーゼンベルグ辞書が臨界領域でRIPを満たすという経験的観察の統計的根拠は何か？

主な発見

• 非一様辞書が正規直交基底の非重複和集合である限り、$ \| \mathbf{G}(S) - \mathrm{Id}_S \| \geq p^{-\varepsilon/2} $ となる確率は、$ p \to \infty $ のとき $ p $ の任意の多項式よりも速く減少する（$ \varepsilon > 0 $）。
• 正規化誤差作用素 $ \mathbf{E}(S) = (p/n)^{1/2}(\mathbf{G}(S) - \mathrm{Id}_S) $ のスペクトル分布は、$ p \to \infty $ のとき確率的にWignerの半円分布 $ \rho_{SC}(x) = \frac{1}{2\pi} \sqrt{4 - x^2} \cdot \mathbf{1}_{[-2,2]}(x) $ に収束する。
• この結果は、ヒーゼンベルグ辞書 $ \mathfrak{D}_H $、オシレーター辞書 $ \mathfrak{D}_O $、および拡張オシレーター辞書 $ \mathfrak{D}_{EO} $ に適用可能であり、これらはすべて正規直交基底の非重複和集合であり、$ \mu \leq 4 $ を満たす。
• 尾確率バインドにおける定数 $ C(k) $ は非一様係数 $ \mu $ に依存するため、$ \mu $ が小さいほどよりタイトなバインドが得られ、実用的応用において好ましい。
• アプレバウムらの指摘を解消する。ヒーゼンベルグ辞書はSRIPを満たし、半円型固有値統計を示すことが示され、臨界領域におけるRIP挙動の可能性を支持する。
• スペクトル分布がWignerの半円型分布に確率的に収束することは、決定論的辞書であっても、大規模な $ p $ の極限において固有値のフラクチュエーションが普遍的であることを示している。