[論文レビュー] Approximate Principal Direction Trees

Mark McCartin-Lim, Andrew McGregor+1 more|arXiv (Cornell University)|Jun 18, 2012

Data Management and Algorithms参考文献 10被引用数 8

ひとこと要約

本稿では、高次元データ向けの新しい空間データ構造である近似主方向木（APD木）を紹介する。この構造は、主方向を近似するために少ない回数のパワー法反復を用いることで、精度と効率のバランスを図り、再帰的分割に利用する。PCA木に類似した精度を達成しつつRP木に類似した効率性を実現し、速度と精度の間で調整可能なトレードオフを提供する。また、パワー法の収束速度に依存しない強力な性能保証を理論的に保証する。

ABSTRACT

We introduce a new spatial data structure for high dimensional data called the \emph{approximate principal direction tree} (APD tree) that adapts to the intrinsic dimension of the data. Our algorithm ensures vector-quantization accuracy similar to that of computationally-expensive PCA trees with similar time-complexity to that of lower-accuracy RP trees. APD trees use a small number of power-method iterations to find splitting planes for recursively partitioning the data. As such they provide a natural trade-off between the running-time and accuracy achieved by RP and PCA trees. Our theoretical results establish a) strong performance guarantees regardless of the convergence rate of the power-method and b) that $O(\log d)$ iterations suffice to establish the guarantee of PCA trees when the intrinsic dimension is $d$. We demonstrate this trade-off and the efficacy of our data structure on both the CPU and GPU.

研究の動機と目的

• 高次元データインデキシングにおけるPCA木の計算非効率性を解消しつつ、高い精度を維持すること。
• 実行時間とベクトル量子化精度の間で調整可能なトレードオフを提供するデータ構造を開発すること。
• パワー法の収束速度に依存しない性能保証を提供すること。
• CPUおよびGPUアーキテクチャ上での実用的効率性と精度を実証すること。

提案手法

• APD木は、少ない回数のパワー法反復によって計算された近似主方向に基づく分割平面を用いて、再帰的にデータを分割する。
• データの内因的次元を活用して分割平面の選択をガイドし、ランダム射影に依存せず、データ構造に適応する。
• 内因的次元がdである場合、完全なPCA木の精度保証に達するにはO(log d)回のパワー法反復で十分であることを保証する。
• パワー法の収束速度にかかわらず、強い理論的性能バインディングを維持する。
• 高次元空間における近似最近傍探索およびベクトル量子化に効率的なデータ構造を提供する。
• スケーラビリティと性能を実証するために、CPUおよびGPUプラットフォーム上で実装・評価されている。

実験結果

リサーチクエスチョン

• RQ1 PCA木に類似した精度を達成しつつ、ランダム射影木と同等の実行時間を持つデータ構造を設計可能か？
• RQ2 主方向を十分に近似するには、パワー法反復を何回行う必要があるか？
• RQ3 パワー法の収束速度にかかわらず、APD木の性能は安定しているか？
• RQ4 APD木はデータの内因的次元に適応して効率を向上させることができるか？
• RQ5 近似主方向を用いた高次元インデキシングにおける、精度と速度の実証的および理論的トレードオフは何か？

主な発見

• APD木は、PCA木と同等のベクトル量子化精度を達成しつつ、RP木と同等の実行時間複雑度を維持する。
• 理論的分析により、内因的次元がdである場合、O(log d)回のパワー法反復でPCA木の精度保証に十分に達することが示された。
• パワー法の収束速度に依存しない強力な性能保証が得られる。
• CPUおよびGPUプラットフォームにおける実験的評価により、速度と精度のトレードオフの有効性が確認された。
• データ構造はデータの内因的次元に適応し、低内因的次元設定での効率性が向上する。
• 完全なPCAベースの手法と比較して精度の損失を最小限に抑えつつ、スケーラブルな高次元インデキシングを可能にする。