[论文解读] PUFFINN: Parameterless and Universally Fast FInding of Nearest Neighbors

Martin Aumüller, Tobias Christiani+2 more|arXiv (Cornell University)|Jun 28, 2019

Data Management and Algorithms被引用 2

一句话总结

PUFFINN 是一种无需参数的基于局部敏感哈希（LSH）的最近邻搜索索引，能够在保证结果质量的 probabilistic（概率性）前提下实现具有竞争力的性能。它结合了自适应查询机制和哈希评估策略，实现了在多样化数据集上快速、可扩展且鲁棒的 k-NN 搜索，其在一项专为暴露现有方法缺陷而设计的新颖合成基准上，优于当前最先进的方法。

ABSTRACT

We present PUFFINN, a parameterless LSH-based index for solving the $k$-nearest neighbor problem with probabilistic guarantees. By parameterless we mean that the user is only required to specify the amount of memory the index is supposed to use and the result quality that should be achieved. The index combines several heuristic ideas known in the literature. By small adaptions to the query algorithm, we make heuristics rigorous. We perform experiments on real-world and synthetic inputs to evaluate implementation choices and show that the implementation satisfies the quality guarantees while being competitive with other state-of-the-art approaches to nearest neighbor search. We describe a novel synthetic data set that is difficult to solve for almost all existing nearest neighbor search approaches, and for which PUFFINN significantly outperform previous methods.

研究动机与目标

• 解决现有 k-NN 实现中缺乏可扩展性、运行时鲁棒性以及召回率鲁棒性的问题。
• 开发一种仅需用户指定内存和质量约束的无参数 LSH 基索引。
• 使 LSH 森林中的启发式查询算法更加严谨，并在一般数据和查询分布下实现可证明的正确性。
• 对实现选择进行评估与优化，以兼顾实际性能与理论保证。
• 引入一个具有挑战性的合成数据集，以暴露现有最近邻搜索方法的局限性。

提出的方法

• 使用基于自适应拼接与重复策略的局部敏感哈希（LSH），以确保 k-NN 结果的概率性保证。
• 采用一种新颖的基于 LSH 森林模型的自适应查询机制，该机制在一般数据和查询分布下被严格证明有效。
• 应用基于池化（pooling）的哈希评估策略，显著提升速度与可扩展性，尤其在大索引规模下表现更优。
• 引入基于快速哈达玛变换（FHT）的 LSH 函数（如 FHT-CP），以加速哈希计算，同时不损失准确性。
• 使用具有高维性、聚类性及对抗性结构的合成数据集，以压力测试最近邻算法。
• 通过实验评估固定实现选择，最终选择池化而非张量化，以及 FHT-CP 而非精确 CP LSH，以实现最优的速度-质量权衡。

实验结果

研究问题

• RQ1 能否设计一种无参数的基于 LSH 的 k-NN 索引，仅通过内存和质量约束即可保证结果质量？
• RQ2 能否使 LSH 森林中的启发式查询算法在一般数据和查询分布下变得严谨并可证明正确？
• RQ3 不同的哈希评估策略（独立、张量、池化）在基于 LSH 的 k-NN 索引中如何影响性能与可扩展性？
• RQ4 能否构建一个合成数据集，以暴露现有 k-NN 方法的弱点，特别是在召回率和速度方面的缺陷？
• RQ5 在真实世界和合成数据上，PUFFINN 与当前最先进的 k-NN 方法相比，在查询性能、召回率和鲁棒性方面表现如何？

主要发现

• PUFFINN 在所有真实世界数据集上均实现了至少 95% 的召回率，优于 VPTree 和 FLANN，后者在 GNEWS-3M 上未能实现高召回率。
• 在合成数据集上，PUFFINN 在超过 10,000 QPS 的查询速率下仍保持高召回率（>95%），而 IVF 和 ANNOY 的召回率均未超过 40%。
• 在具备自动参数调优的实现中，PUFFINN 是最快的方法，在大多数性能-质量权衡下优于 FALCONN 和 ANNOY。
• 基于池化的哈希评估策略显著快于张量化，且能够高效利用精确 CP LSH 和 FHT-CP，从而实现高精度结果。
• PUFFINN 的性能与非无参数、无保证的方法（如 FALCONN）相当，表明理论保证可在极小性能损失下实现。
• 所提出的合成数据集有效暴露了现有方法的弱点，尤其在高维、聚类数据下的召回率下降问题。