[论文解读] A non iterative method of separation of points by planes in n dimensions and its application

K. Eswaran|arXiv (Cornell University)|Sep 29, 2015

Advanced Image and Video Retrieval Techniques参考文献 7被引用 3

一句话总结

本文提出一种非迭代算法，通过动态构建基于方向向量（编码点可分性的汉明向量）的分离超平面，实现对n维空间中任意数量点的分离。该方法确保所有点对彼此分离且保证收敛，支持增量数据添加与维度扩展，时间复杂度为$O(nN\log N + n^3\log N)$，适用于医疗数据库中的大规模数据检索与多模态数据融合。

ABSTRACT

Given a set of N points, we have discovered an algorithm that can separate these points from one another by n-dimensional planes. Each point is chosen at random and put into a set S and planes which separate them are determined and put into S. The algorithm gives a method of choosing points and planes which separate them, till all the points are separated. A proof is provided with a worked example. The algorithm is non iterative and always halts successfully and the algorithm strictly follows Shannon's principle of making optimal use of information as it advances stage by stage. It also has a restart facility and can take care of new points from where it left off.At some later stage if the dimension of the data is increased from n to n+r, the algorithm can still continue from where it left off, after some simple adjustments, and tackle the new data points which are of a higher dimension. and separate them. The computational complexity is O(n.N log(N)) + O(n3 log(N)), where N is the given number of points and n3 is the cube of n - the dimension of space. The algorithm is made possible because a new concept called Orientation Vector is used. This vector is a Hamming vector and is associated with each point and has been so devised that it has all the information necessary to ascertain if two points are separate or not when among a collection of planes.Its application to data retrieval problems in very large medical data bases is also given.

研究动机与目标

• 开发一种非迭代、保证收敛的算法，用于使用超平面在n维空间中分离任意有限个点集。
• 解决在数据集逐步增加新点时，高效维持点可分性的挑战。
• 在数据维度从n增至n+r时，实现算法的无缝扩展。
• 在不重新处理已有数据的前提下，支持异构数据类型（如图像、音频）整合到统一的高维空间中。
• 为医疗数据库中的大规模数据检索与持久知识存储库提供可扩展的解决方案。

提出的方法

• 该算法使用方向向量——维度为q（当前平面数量）的汉明向量——来编码每个点相对于所有当前分离平面的相对位置。
• 通过将新点的方向向量与集合S中所有现有点的方向向量进行比较，来测试其与S中所有点的可分性；若所有比较结果均显示不相等，则将该点加入S。
• 若新点无法被分离（即与S中某点具有相同的方向向量），则将其临时存储在集合T中，并通过计数器记录未分离点对的数量。
• 当T中累积n个此类未分离点（或点对）时，构建一个新的分离平面，使其通过这些点的中点，从而同时分离所有n个点，并将该平面添加至分离平面集合中。
• 通过确保每次新增平面后，S中所有点仍保持两两分离，该算法始终维持可分性。
• 该方法支持重启与维度扩展：可通过将新维度系数设为零，将现有数据扩展至更高维空间；通过扩展空间可无缝集成新数据类型，而无需重新处理旧数据。

实验结果

研究问题

• RQ1 能否设计一种非迭代算法，使用超平面在n维空间中分离任意有限个点集，并保证收敛？
• RQ2 在不重新处理整个数据集的前提下，如何实现实时高效检查点的可分性，以应对新点的持续增加？
• RQ3 该算法通过何种机制实现增量数据添加与维度扩展，而无需从头开始重启？
• RQ4 如何利用统一的分离框架将异构数据类型（如图像与音频）整合到单一高维空间中？
• RQ5 此类系统的计算复杂度是多少？其是否能高效扩展以支持大规模数据检索应用？

主要发现

• 该算法在有限时间内保证所有点成功分离，且为非迭代，确保不会陷入收敛循环而终止。
• 使用方向向量可实现每对点可分性检查的O(1)时间复杂度，使每次插入操作的代价降低至O(N)（其中N为S中当前点的数量）。
• 该算法支持重启：可在不重新处理先前数据的前提下，随时添加新点，同时保持当前可分性状态。
• 该算法可扩展至更高维空间：当数据维度从n增至n+r时，现有数据在新维度中以零值嵌入，算法可无缝继续运行。
• 计算复杂度被限制在$O(nN\log N + n^3\log N)$，其中N为点数，n为维度，适用于大规模应用场景。
• 该方法支持持久化知识存储：即使引入新数据类型或维度，所有历史数据仍保持可分且可访问，适用于终身学习系统。