[論文レビュー] Tree-Independent Dual-Tree Algorithms

Ryan R. Curtin, William B. March+4 more|arXiv (Cornell University)|Apr 16, 2013

Data Management and Algorithms参考文献 21被引用数 7

ひとこと要約

この論文は、二重木アルゴリズムを4つのモジュラーな要素に分解する木に依存しないメタアルゴリズムを導入する。すなわち、空間木、走査、基本ケース、および pruning ルールである。これらの要素を分離することで、フレームワークは多様な木の種別や問題に対して汎用的かつ再利用可能な実装を可能にし、k近傍探索のための新たなよりきつい境界を導出し、二重木アルゴリズムの並列化を容易にする。

ABSTRACT

Dual-tree algorithms are a widely used class of branch-and-bound algorithms. Unfortunately, developing dual-tree algorithms for use with different trees and problems is often complex and burdensome. We introduce a four-part logical split: the tree, the traversal, the point-to-point base case, and the pruning rule. We provide a meta-algorithm which allows development of dual-tree algorithms in a tree-independent manner and easy extension to entirely new types of trees. Representations are provided for five common algorithms; for k-nearest neighbor search, this leads to a novel, tighter pruning bound. The meta-algorithm also allows straightforward extensions to massively parallel settings.

研究の動機と目的

• 異なる木の種別や問題に対して実装する際の複雑さと重複を軽減すること。
• 木、走査、基本ケース、pruning ルールといったアルゴリズムの要素を分離し、モularity と再利用性を高めること。
• 正しさを保証し、多様な木構造において実装を簡素化する形式的なフレームワークを提供すること。
• 抽象化を通じて、効率的でスケーラブルな並列および分散二重木アルゴリズムを可能にすること。
• 木の構造に依存しない、k近傍探索のためのよりきついpruning境界を導出すること。

提案手法

• 二重木アルゴリズムを4つの論理的要素に分解する：空間木、pruning を伴う二重木走査、BaseCase() 関数、Score() 関数。
• これらの要素を組み合わせて動作する二重木アルゴリズムを構成するメタアルゴリズムを定義し、木や走査の詳細に依存しないようにする。
• 空間木をグラフ理論的および幾何的制約を用いて形式化し、点の凸性と階層的包含を保証する。
• Score() 関数を用いて部分木をスキップするように、再帰的にノードペアを探索するpruningを伴う二重木走査を設計する。
• k-NN、カーネル密度推定、Borůvkaのアルゴリズムを含む5つの一般的なアルゴリズムに再利用可能なBaseCase()およびScore()関数を提供する。
• 2つの部分証明を用いて正しさを証明する：pruning を行わない場合のBaseCase()の正しさ、およびScore()関数によるpruningの正当性。

実験結果

リサーチクエスチョン

• RQ1 二重木アルゴリズムを、アルゴリズムの要素間の責任の分担を明確にした再利用可能で木に依存しないフレームワークに抽象化できるか？
• RQ2 任意の二重木アルゴリズムを正しくかつ効率的に実装するために必要な最小限で合成可能な要素は何か？
• RQ3 木の構造に依存しない、k近傍探索のための新たなよりきついpruning境界を導出できるか？
• RQ4 同じアルゴリズム論理を、コア論理を再設計せずに並列および分散コンピューティング環境に拡張できるか？
• RQ5 既存の木実装（例：カバーツリー）を、変更なしに複数のアルゴリズムに再利用できるか？

主な発見

• 提案されたメタアルゴリズムにより、任意の有効な木と走査を、標準的な基本ケースおよびpruningルールの要素と組み合わせて使用できる木に依存しない方法で二重木アルゴリズムを実装できる。
• 木の構造に依存しない、新たなよりきついk近傍探索のpruning境界が導出され、従来の境界を改善している。
• フレームワークにより正しさの証明が簡素化され、2つの部分証明に還元される：基本ケースの正しさとScore()関数による安全なpruning。
• カバーツリーなどの既存の木実装は、k-NNやBorůvkaのアルゴリズムへのシームレスな統合が示されたように、変更なしに複数のアルゴリズムに再利用可能である。
• 抽象化により、分散および並列実行が自然にサポートされる。なぜなら、走査論理が木およびアルゴリズム的要素から分離されているからである。
• この手法により、シリアルな二重木アルゴリズムを大規模な並列および分散システムに、最小限のコード変更で容易に移植できる。