[论文解读] A neural network catalyzer for multi-dimensional similarity search.

Alexandre Sablayrolles, Matthijs Douze+2 more|arXiv (Cornell University)|Jun 8, 2018

Advanced Image and Video Retrieval Techniques参考文献 24被引用 2

一句话总结

该论文提出了一种神经网络催化器，通过学习具有均匀性和保留邻域结构的球形嵌入空间，提升高维相似性搜索性能。通过结合基于Kozachenko-Leonenko的正则化项与感知局部性的三元组损失，该方法在传统索引方法（如LSH）中提升了召回率，并支持高效的球形格栅量化，性能与优化后的乘积量化相当。

ABSTRACT

This paper aims at learning a function mapping input vectors to an output space in a way that improves high-dimensional similarity search. As a proxy objective, we design and train a neural network that favors uniformity in the spherical output space, while preserving the neighborhood structure after the mapping. For this purpose, we propose a new regularizer derived from the Kozachenko-Leonenko differential entropy estimator and combine it with a locality-aware triplet loss. Our method operates as a catalyzer for traditional indexing methods such as locality sensitive hashing or iterative quantization, boosting the overall recall. Additionally, the network output distribution makes it possible to leverage structured quantizers with efficient algebraic encoding, in particular spherical lattice quantizers such as the Gosset lattice E8. Our experiments show that this approach is competitive with state-of-the-art methods such as optimized product quantization.

研究动机与目标

• 通过学习更有效的向量嵌入空间来提升高维相似性搜索性能。
• 在输入空间到输出空间的映射过程中保留局部邻域结构。
• 在输出空间中促进均匀性，以提升量化效率。
• 作为即插即用的催化器，适配现有索引方法（如LSH和迭代量化）。
• 支持使用结构化量化器（如Gosset E8格栅）进行高效的代数编码。

提出的方法

• 该方法采用神经网络将输入向量映射到球形输出空间，以提升相似性搜索性能。
• 提出一种基于Kozachenko-Leonenko微分熵估计器的新正则化项，强制输出分布的均匀性。
• 采用感知局部性的三元组损失，保留相似与不相似向量之间的相对邻域结构。
• 联合损失函数在训练过程中平衡均匀性与结构保持。
• 输出空间支持结构化量化，特别是球形格栅量化器（如Gosset E8），实现高效的代数编码。
• 该模型作为催化器，与传统索引方法（如LSH或迭代量化）集成后可显著提升召回率。

实验结果

研究问题

• RQ1 在不修改底层索引基础设施的前提下，学习到的嵌入空间是否能提升高维相似性搜索中的召回率？
• RQ2 能否通过基于熵估计的可微正则化项有效强制输出空间的均匀性？
• RQ3 在高维空间中，保留局部邻域结构在多大程度上能提升检索性能？
• RQ4 所学习的嵌入是否能支持使用E8等结构化格栅的高效代数量化？
• RQ5 与最先进的量化技术（如优化后的乘积量化）相比，该方法的性能如何？

主要发现

• 所提方法在召回率方面与优化后的乘积量化（SOTA基线）表现相当。
• 将神经网络催化器集成到传统索引方法（如LSH和迭代量化）中后，召回率显著提升。
• 基于Kozachenko-Leonenko估计器的均匀性正则化项能有效塑造输出分布，提升量化效率。
• 感知局部性的三元组损失成功保持了邻域结构，有助于提升检索准确性。
• 球形输出空间支持使用结构化量化器（如Gosset E8格栅）进行高效编码，降低计算成本。
• 该方法作为即插即用组件，在现有相似性搜索流水线中展现出强大的泛化能力。