[論文レビュー] Counting faces of randomly-projected polytopes when the projection radically lowers dimension

David L. Donoho, Jared Tanner|ArXiv.org|Jul 15, 2006

Sparse and Compressive Sensing Techniques参考文献 23被引用数 8

ひとこと要約

本稿は、高次元空間に存在する点群をランダムに投影した際に生じる高次元ポリトープの面（頂点、辺など）の数を数えるための漸近的手法を開発する。ランダムな投影のもとで、面の数（頂点、辺など）は次元と標本サイズに強く依存し、明確なスケーリング則を示す。主な貢献は、ランダムな投影によってポリトープの面構造が保存されるための明確な閾値を特定したことである。これにより、高次元データにおけるスパース信号の効率的回復や誤り訂正が可能になる。

ABSTRACT

This paper develops asymptotic methods to count faces of random high-dimensional polytopes. Beyond its intrinsic interest, our conclusions have surprising implications - in statistics, probability, information theory, and signal processing - with potential impacts in practical subjects like medical imaging and digital communications. Three such implications concern: convex hulls of Gaussian point clouds, signal recovery from random projections, and how many gross errors can be efficiently corrected from Gaussian error correcting codes.

研究の動機と目的

• 高次元空間におけるランダムな点群から形成される凸包の組合せ的構造を理解すること。
• 次元を著しく低減した場合に、ランダムな線形投影が高次元ポリトープの面（頂点、辺など）の数に与える影響を特定すること。
• ランダムな投影のもとでポリトープの面構造が保存されるための鋭い漸近的閾値を確立すること。
• これらの結果を、特に圧縮センシングと符号理論における高次元データの信号回復および誤り訂正に応用すること。
• L1最小化を用いてスパースベクトルを効率的に回復できる厳密な条件を導出すること。

提案手法

• 高次元における独立同一分布に従うガウス点の投影によって得られるランダムポリトープの面数を、漸近的確率論および大偏差理論を用いて分析する。
• 次元削減における凸包の挙動を解析するため、高次元幾何学および確率的行列理論のツールを応用する。
• 球面のネットに基づく近似を用いた変分原理により、面の数の臨界閾値関数を導出する。
• ネットの対数的サイズおよび面の存在確率を推定するために、ラグランジュ緩和と鞍点解析を用いる。
• ネットに基づくエントロピーと面数エントロピーを用いた双対定式化により、変分問題を導出する。
• 対数項の漸近的展開およびバウンドを用いて、高次元面の存在に関する鋭い閾値を導出する。

実験結果

リサーチクエスチョン

• RQ1 次元と標本サイズがともに大きくなる際、高次元空間におけるランダム点群の凸包に含まれる面（頂点、辺など）の漸近的数は何か？
• RQ2 元の次元に比べて著しく小さいターゲット次元でのランダム線形投影が、高次元ポリトープの面構造に与える影響は何か？
• RQ3 L1最小化を用いて、スパース度kのベクトルを、少数のランダム線形測定値から正確に回復できる条件は何か？
• RQ4 高次元ポリトープの面構造が高確率で保持されるために必要な最小のランダム投影の数は何か？
• RQ5 測定行列がランダムで、測定数がナッシュ閾値未満である場合、線形符号化方式でどれだけの大きな誤りを訂正できるか？

主な発見

• 大次元において、ほとんど確実に、すべてのk+1点がk次元面を形成する最大のk（k*）は、k* > d/(2e log(n/d)) (1−ε) を満たす。これは、すべての点が頂点であり、すべての辺が存在することを示唆する。
• 信号回復において、n ≥ 2k log(N/n)(1+o_p(1)) を満たす場合、L1最小化によりスパースベクトルを高確率で正確に回復可能であり、これはN回の測定よりも著しく少ない。
• ランダム投影における面構造の保存の閾値は鋭い：測定数nが2k log(N/n)を超えると、ポリトープは元の面構造の複雑さを保持する。
• 臨界閾値以下の領域では、投影されたポリトープの面数はexp(Θ(n log(N/n)))とスケーリングされ、面数の挙動に相転移が生じることを示す。
• 本手法により、測定数がスパarsityレベルの対数的閾値を超える場合、ランダム投影が高次元ポリトープの面構造を保持することが保証される。
• 解析により、測定レートが導出された閾値を超えると、ランダム投影による面の損失確率が指数的に減少することが明らかになった。