[論文レビュー] Random Projection Trees Revisited

Aman Dhesi, Purushottam Kar|arXiv (Cornell University)|Oct 19, 2010

Topological and Geometric Data Analysis参考文献 14被引用数 6

ひとこと要約

本稿は、ランダムプロジェクションツリー（RPTrees）の理論的保証を強化し、RPTree-Maxにおけるサイズ削減に必要なレベル数に対して近似的に最適な、多対数的の上限を示した。また、RPTree-Meanが多様体次元に適応することを示すために、低次元多様体が有界な局所共分散次元を持つことを証明した。これらの結果は、パッキングとアスペクト比の境界を改善し、近隣探索やクラスタリングへの応用性を高めた。

ABSTRACT

The Random Projection Tree structures proposed in [Freund-Dasgupta STOC08] are space partitioning data structures that automatically adapt to various notions of intrinsic dimensionality of data. We prove new results for both the RPTreeMax and the RPTreeMean data structures. Our result for RPTreeMax gives a near-optimal bound on the number of levels required by this data structure to reduce the size of its cells by a factor $s \geq 2$. We also prove a packing lemma for this data structure. Our final result shows that low-dimensional manifolds have bounded Local Covariance Dimension. As a consequence we show that RPTreeMean adapts to manifold dimension as well.

研究の動機と目的

• RPTree-Maxの理論的理解を向上させることを目的とし、サイズを s ≥ 2 の要因で削減するために必要なレベル数に対するよりタイトな境界を提供すること。
• RPTree-Maxにおける特定の球を含む最小のセルの有効なアスペクト比の境界を確立し、強いパッキング補題を可能にする。
• 低次元多様体が有界な局所共分散次元を持つことを証明することで、RPTree-Meanが多様体次元に適応することを示すこと。
• RPTreeフレームワークを通じて、幾何的次元の概念（例：ダブルイング次元）と統計的次元の概念（例：局所共分散次元）を結びつけること。

提案手法

• 確率的解析を用いてランダムプロジェクションとレベルごとのセル収縮を分析し、RPTree-Maxにおける一般化されたサイズ削減補題を証明する。
• 固定された球 B を含む最小の RPTree-Max セルを分析することで、有効なアスペクト比の境界を導入し、測度エントロピーと集中の法則を活用する。
• 有効なアスペクト比の境界から導かれるパッキング補題を用いて、与えられた球と交差する互いに素なセルの数を制御する。
• 任意の低次元多様体 M に対して、局所共分散次元が有界であることを、接空間と射影に関する幾何的および確率的議論を用いて示す。
• ランダムプロジェクションサンプリングを通じて、ジョンソン＝リンデンストラウス補題を暗黙的に適用し、次元削減の性質を維持する。
• ランダム部分空間への射影の二乗和が距離を (1−ε) 要因以内に保つことを利用し、次元に適応したクラスタリングおよび回帰を可能にする。

実験結果

リサーチクエスチョン

• RQ1 RPTree-Maxにおいて、サイズを s ≥ 2 の要因で削減するために必要なレベル数は、従来の知られていたものよりもタイトに境界づけられるか？
• RQ2 RPTree-Maxは、その確率的構造にもかかわらず、強力なパッキング補題を支える意味のあるアスペクト比の保証を備えているか？
• RQ3 RPTree-Meanの内因的次元への適応性は、多様体次元と正式に結びつけられるか？
• RQ4 低次元多様体の局所共分散次元は有界であるか？ もしそうなら、これは RPTree-Mean の性能にどのように影響するか？
• RQ5 RPTree-Maxのパッキング保証は、指数部における log(R/r) の依存性を除去できるか？

主な発見

• RPTree-Maxがセルサイズを s ≥ 2 の要因で削減するために必要なレベル数は、(d log s)^O(1) で有界であり、以前の境界を改善した。
• 固定された半径 R の球 B を含む最小の RPTree-Max セルのアスペクト比は、O(d√d log d) 以下である。これにより、(R/r)^O(log(R/r)) の境界を持つパッキング補題が可能になる。
• パッキング補題により、半径 R の球と交差するサイズ > r の互いに素なセルの数は、固定された d に対して (R/r)^O(log(R/r)) 以下であることが示された。
• 低次元多様体は有界な局所共分散次元を持つため、RPTree-Mean が多様体次元に適応することが示された。
• 球 B を含む最小のセルのアスペクト比は、O(R d√d log d) で有界であり、内接球の半径が R、外接球の半径が O(R d√d log d) である。
• 局所共分散次元の定義における半径パラメータは、多様体上に距離関数の局所極値が存在する場合、√ετ/3 から √ετ/2 に改善できる。