[論文レビュー] One Bit Sensing, Discrepancy, and Stolarsky Principle

Dmitriy Bilyk, Michael T. Lacey|arXiv (Cornell University)|Nov 26, 2015

Sparse and Compressive Sensing Techniques参考文献 14被引用数 5

ひとこと要約

本稿は、幾何的不均衡理論と関連付けることで、球面上の1ビットセンシングマップの最適スケーリングを確立する。$ \delta $-RIP を満たすために必要な最小の超平面数 $ N(d,\delta) $ は、対数的要因を除いて $ \delta^{-2 + \frac{2}{d+1}} $ のスケーリングに従うことが証明され、これは従来のランダムサンプリングの境界を改善する次元補正項を含む。この結果は、ジャマリングサンプリングとスタウルスキー型不変性原理を用いて得られる。

ABSTRACT

A sign-linear one bit map from the $ d$-dimensional sphere $ \mathbb S ^{d}$ to the $ n$-dimensional Hamming cube $ H^n= \{ -1, +1\} ^{n}$ is given by $$ x o \{ \mbox{sign} (x \cdot z_j) \;:\; 1\leq j \leq n\} $$ where $ \{z_j\} \subset \mathbb S ^{d}$. For $ 0 < δ< 1$, we estimate $ N (d, δ)$, the smallest integer $ n$ so that there is a sign-linear map which has the $ δ$-restricted isometric property, where we impose normalized geodesic distance on $ \mathbb S ^{d}$, and Hamming metric on $ H^n$. Up to a polylogarithmic factor, $ N (d, δ) \approx δ^{-2 + \frac2{d+1}}$, which has a dimensional correction in the power of $ δ$. This is a question that arises from the one bit sensing literature, and the method of proof follows from geometric discrepancy theory. We also obtain an analogue of the Stolarsky invariance principle for this situation, which implies that minimizing the $L^2$ average of the embedding error is equivalent to minimizing the discrete energy $\sum_{i,j} \big( \frac12 - d(z_i,z_j) \big)^2$, where $d$ is the normalized geodesic distance.

研究の動機と目的

• 球面上の $ \mathbb{S}^d $ から $ H^N $ への符号線形1ビット写像が $ \delta $-制限的等長性性質（RIP）を満たすために必要な最小の超平面数 $ N(d,\delta) $ を特定すること。
• $ N(d,\delta) $ が次元 $ d $ と誤差許容度 $ \delta $ に依存する仕組みを解明し、標準的な $ \delta^{-2} $ スケーリングを超えて次元に依存する補正項を示すこと。
• 1ビットセンシングにおけるスタウルスキー不変性原理の類似を確立し、$ L^2 $ 埋め込み誤差と対象間地図距離の離散的エネルギーを結びつけること。
• ジャマリングサンプリングが最適な $ L^2 $ 不均衡スケーリングを達成することを示し、$ N(d,\delta) $ の構成的上界を提供すること。

提案手法

• 超平面 $ z_j \in \mathbb{S}^d $ を用いた符号線形写像 $ \varphi_Z(x) = \{ \text{sgn}(z_j \cdot x) \} $ を用いて、球面をハミング立方体 $ H^N $ に埋め込む。
• 幾何的不均衡理論を用いて、埋め込み誤差 $ \| \Delta_Z(x,y) \|^2_2 $（ハミング距離と地図距離の差）の $ L^2 $ ノルムを評価する。
• スタウルスキー不変性原理を用いて、期待 $ L^2 $ 誤差を離散的エネルギー項に等置する：$ \mathbb{E}_Z \| \Delta_Z \|^2_2 \propto \sum_{i,j} \left( \frac{1}{2} - d(z_i,z_j) \right)^2 $。
• 球面 $ \mathbb{S}^d $ を $ N $ 個の等積領域に分割し、各領域に1点ずつランダムに配置するジャマリング（ストラティファイド）サンプリングを用いて、最適不均衡を達成する点集合を構築する。
• ランダムな場合の期待誤差を計算するため、地図距離の2次モーメント $ V_d = \mathbb{E}_{x,y} d(x,y)^2 $ を導出する。
• 上界と下界を組み合わせる：上界はジャマリングサンプリングと不均衡推定、下界は幾何的不均衡理論における普遍的不均衡原理を用いる。

実験結果

リサーチクエスチョン

• RQ1 符号線形1ビット写像が $ \mathbb{S}^d $ 上で $ \delta $-RIP を達成するために必要な最小の超平面数 $ N(d,\delta) $ は何か？
• RQ2 $ N(d,\delta) $ の $ \delta $ スケーリングにおいて、ランダム構成で見られる標準的な $ \delta^{-2} $ 行動を超えて、次元に依存する補正項が現れるか？
• RQ3 $ L^2 $ 平均埋め込み誤差は、超平面方向の離散的エネルギー関数として表現可能か？
• RQ4 ジャマリングサンプリングは、球面上の1ビットセンシングにおける最適な $ L^2 $ ワインディスクリパンシーを達成するか？

主な発見

• 最小の超平面数 $ N(d,\delta) $ は、対数的要因を除いて $ \delta^{-2 + \frac{2}{d+1}} $ のスケーリングに従う。これは、ランダム構成における $ \delta^{-2} $ スケーリングと比較して次元補正項を含む。
• $ L^2 $ 平均埋め込み誤差 $ \| \Delta_Z(x,y) \|^2_2 $ は、正確に $ \frac{1}{N} \left( \frac{1}{2} - V_d \right) $ に等しい。ここで $ V_d $ は球面 $ \mathbb{S}^d $ 上での地図距離の2次モーメントである。
• スタウルスキー型不変性原理が成立する：$ L^2 $ 埋め込み誤差を最小化することは、離散的エネルギー $ \sum_{i,j} \left( \frac{1}{2} - d(z_i,z_j) \right)^2 $ を最小化することに等しい。
• ジャマリングサンプリングは $ L^2 $ 不均衡スケーリング $ O(N^{-1 - \frac{1}{d}}) $ を達成し、任意の $ N $ 点集合に対して既知の下界と一致する。
• 低次元における地図距離の2次モーメント $ V_d $ は明示的に計算可能であり、$ V_2 = \frac{1}{2} - \frac{2}{\pi^2} $、$ V_3 = \frac{1}{3} - \frac{1}{2\pi^2} $ のような値が得られる。
• 高次元 $ d $ が大きい場合、必要な超平面数は $ \delta^{-2} $ よりもゆっくりと増加するため、高次元における1ビットセンシングの効率が向上することが示された。