[論文レビュー] A simple construction of almost-Euclidean subspaces of $\ell_1^N$ via tensor products

Piotr Indyk, Stanisław J. Szarek|arXiv (Cornell University)|Jan 1, 2010

Digital Image Processing Techniques被引用数 1

ひとこと要約

本稿では、テンソル積を用いた単純で決定的な構成により、$ℓ_1^N$ 内のほぼユークリッド空間を構築する手法を提示している。任意の $a > 0$ に対して $N^a$ ビットのランダムネスのみを用いて、歪みが任意に小さい $Ω(N)$ 次元の部分空間を達成している。この方法は構成的であり、確率的存在証明を回避しており、圧縮センシングや最近傍探索への応用に適している。

ABSTRACT

It has been known since 1970's that the N-dimensional $\ell_1$-space contains nearly subspaces whose dimension is $\Omega(N)$. However, proofs of existence of such subspaces were probabilistic, hence non-constructive, which made the results not-quite-suitable for subsequently discovered applications to high-dimensional nearest neighbor search, error-correcting codes over the reals, compressive sensing and other computational problems. In this paper we present a low-tech scheme which, for any $a > 0$, allows to exhibit nearly $\Omega(N)$-dimensional subspaces of $\ell_1^N$ while using only $N^a$ random bits. Our results extend and complement (particularly) recent work by Guruswami-Lee-Wigderson. Characteristic features of our approach include (1) simplicity (we use only tensor products) and (2) yielding almost Euclidean subspaces with arbitrarily small distortions.

研究の動機と目的

• 確率的証明による $ℓ_1^N$ 内のほぼユークリッド空間の存在証明の代わりに、構成的代替手法を提供すること。
• このような部分空間を構築するのに必要なランダムネスを、任意の $a > 0$ に対して $N^a$ ビットにまで低減すること。これにより、従来の非構成的アプローチを改善する。
• 歪みを任意に小さくする部分空間を達成し、ユークリッド空間にほぼ等長（isometric）に近づけること。
• テンソル積のみを用いる単純でアクセスしやすい方法を提供することで、計算問題における実用的応用性を高めること。

提案手法

• 構成は、適切に選ばれた低次元部分空間のテンソル積にのみ依存し、$ℓ_1^N$ 内の高次元部分空間を構築する。
• 再帰的なテンソル化プロセスを用いて次元を拡大しつつ、ほぼユークリッド構造を維持する。
• この方法により、得られる部分空間の歪みが 1 に任意に近づくことが保証され、ヒルバート空間にほぼ等長である。
• ランダムネスは $N^a$ ビットに限定され、大規模応用においても効率的で実用的である。
• 複雑な確率的または幾何的議論を避け、代わりに代数的テンソル構造に依存する。
• 構成は明示的であり、効率的に実装可能である。これに対して、従来の確率的存在証明とは異なり、実装可能性に優れる。

実験結果

リサーチクエスチョン

• RQ1 $ℓ_1^N$ 内で次元 $Ω(N)$ のほぼユークリッド空間を、存在的証明ではなく明示的構成で得ることは可能か？
• RQ2 このような部分空間を歪みが小さい状態で構築するのに、最小限必要なランダムネスはどの程度か？
• RQ3 テンソル積のような単純で代数的な手法が、$ℓ_1^N$ 内で歪みを任意に小さくする部分空間を生成できるか？
• RQ4 従来の確率的または複雑な幾何的構成と比較して、このテンソル積構成は効率的で単純か？
• RQ5 このような構成が、圧縮センシングや高次元最近傍探索への応用に適しているか？

主な発見

• 本稿では、$ℓ_1^N$ 内で次元 $Ω(N)$ のほぼユークリッド空間を構築し、歪みが 1 に任意に近づくことを達成した。
• 構成には任意の $a > 0$ に対して $N^a$ ビットのランダムネスのみを用い、従来の確率的手法と比較してランダムネスを著しく低減した。
• この方法は完全に構成的であり、テンソル積にのみ依存しており、単純かつ実装可能である。
• 得られた部分空間は、圧縮センシング、実数上のエラー訂正符号、高次元最近傍探索への応用に適している。
• Guruswami-Lee-Wigderson の最近の研究を拡張・補完し、より単純で透明性の高い構成を提供した。
• 存在証明と構成可能性の間の長年のギャップを解消し、ほぼ最適な次元を維持しながら、低歪みと低ランダムネスを両立した。