[論文レビュー] A non iterative method of separation of points by planes in n dimensions and its application

K. Eswaran|arXiv (Cornell University)|Sep 29, 2015

Advanced Image and Video Retrieval Techniques参考文献 7被引用数 3

ひとこと要約

本稿では、n次元空間内の任意の数の点を平面を用いて非反復的に分離するアルゴリズムを提示する。この手法は、点の分離可能性を符号化するハミングベクトル（オリエンテーションベクトル）に基づき、動的に分離超平面を構築する。この方法により、すべての点が保証された収束のもとでペアワイズに分離され、インクリメンタルなデータ追加および次元拡張が可能であり、時間計算量は $O(nN\log N + n^3\log N)$ である。このため、医療データベースにおける大規模なデータ検索やマルチモーダルデータ統合に適している。

ABSTRACT

Given a set of N points, we have discovered an algorithm that can separate these points from one another by n-dimensional planes. Each point is chosen at random and put into a set S and planes which separate them are determined and put into S. The algorithm gives a method of choosing points and planes which separate them, till all the points are separated. A proof is provided with a worked example. The algorithm is non iterative and always halts successfully and the algorithm strictly follows Shannon's principle of making optimal use of information as it advances stage by stage. It also has a restart facility and can take care of new points from where it left off.At some later stage if the dimension of the data is increased from n to n+r, the algorithm can still continue from where it left off, after some simple adjustments, and tackle the new data points which are of a higher dimension. and separate them. The computational complexity is O(n.N log(N)) + O(n3 log(N)), where N is the given number of points and n3 is the cube of n - the dimension of space. The algorithm is made possible because a new concept called Orientation Vector is used. This vector is a Hamming vector and is associated with each point and has been so devised that it has all the information necessary to ascertain if two points are separate or not when among a collection of planes.Its application to data retrieval problems in very large medical data bases is also given.

研究の動機と目的

• n次元空間内の任意の有限個の点の集合を、超平面を用いて非反復的かつ収束保証付きで分離する手法の開発。
• 新しい点がデータセットに段階的に追加される中で、点の分離可能性を効率的に維持する課題への対処。
• データの次元が n から n+r に増加する場合に、アルゴリズムのスムーズな拡張を可能にする。
• 画像や音声などの異種データタイプを、既存データの再処理なしに統一された高次元空間に統合するための支援。
• 医療データベースや恒久的知識リポジトリにおける大規模なデータ検索に適したスケーラブルなソリューションの提供。

提案手法

• アルゴリズムは、オリエンテーションベクトル（次元 q のハミングベクトル、現在の平面数に相当）を用い、各点が現在のすべての分離平面に対して相対的にどの位置にあるかを符号化する。
• 各新しい点は、現在の集合 S 内のすべての点と比較して、そのオリエンテーションベクトルが互いに異なるかどうかをテストする。すべての比較で不等しければ、点は S に追加される。
• 新しい点が分離に失敗した場合（S 内の既存の点と同一のオリエンテーションベクトルを持つ場合）、一時的に集合 T に格納され、未分離ペアの数を数えるカウンタが更新される。
• T に n 個の未分離点（またはペア）が蓄積された場合、それらの点の重心を通る新しい分離平面が構築され、分離平面の集合に追加される。
• 各新しい平面が追加された後、S 内のすべての点がペアワイズに分離されたまま保たれるように、アルゴリズムは分離性を常に維持する。
• 再起動および次元拡張をサポートする：既存データは新しい次元の係数をゼロに設定することで高次元に埋め込み、古いデータの再処理なしにアルゴリズムを継続できる。

実験結果

リサーチクエスチョン

• RQ1 n次元空間内の任意の有限個の点の集合を、超平面を用いて非反復的かつ収束保証付きで分離できるアルゴリズムを設計できるか？
• RQ2 全データセットの再処理なしに、新しい点が追加されるたびにリアルタイムで点の分離可能性を効率的に確認するにはどうすればよいか？
• RQ3 アルゴリズムが完全に再起動せずに、インクリメンタルなデータ追加および次元拡張を処理するメカニズムは何か？
• RQ4 画像や音声などの異種データタイプを、統一された分離フレームワークを用いて単一の高次元空間に統合するにはどうすればよいか？
• RQ5 このようなシステムの計算量的複雑性は何か？また、大規模なデータ検索アプリケーションにおいて効率的にスケーリング可能か？

主な発見

• アルゴリズムは有限時間内にすべての点を成功裏に分離し、反復的でないため、収束ループの発生なしに終了が保証される。
• オリエンテーションベクトルの使用により、分離可能性の確認が1ペアあたり O(1) で可能となり、各挿入処理のコストが点数 N に対して O(N) に低減される（N は S 内の点数）。
• アルゴリズムは再起動をサポートする：過去のデータの再処理なしに、いつでも新しい点を追加可能で、現在の分離状態が保持される。
• アルゴリズムは高次元への拡張が可能である：データ次元が n から n+r に増加する場合、既存データは新しい次元にゼロ値を割り当てて埋め込まれ、アルゴリズムはスムーズに継続される。
• 計算量の上限は $O(nN\log N + n^3\log N)$ であり、N が点数、n が次元数である。このため、大規模応用においても効率的である。
• この手法により恒久的知識保存が可能となる：新しいデータタイプや次元が追加されても、すべての履歴データが分離可能かつアクセス可能であり、生涯学習システムの支援が可能である。