[论文解读] The Power of Asymmetry in Binary Hashing

Behnam Neyshabur, Payman Yadollahpour+3 more|arXiv (Cornell University)|Nov 29, 2013

Advanced Image and Video Retrieval Techniques参考文献 15被引用 57

一句话总结

本文提出了一种非对称二值哈希方法，其中查询和数据库项分别使用不同的哈希函数，从而在实现更短、更精确的相似性近似方面优于对称哈希。即使在使用对称相似性度量的情况下，非对称编码也能将所需比特长度从指数级降低至线性级，在某些情况下优于最先进方法，且计算开销极低。

ABSTRACT

When approximating binary similarity using the hamming distance between short binary hashes, we show that even if the similarity is symmetric, we can have shorter and more accurate hashes by using two distinct code maps. I.e. by approximating the similarity between $x$ and $x'$ as the hamming distance between $f(x)$ and $g(x')$, for two distinct binary codes $f,g$, rather than as the hamming distance between $f(x)$ and $f(x')$.

研究动机与目标

• 研究使用两个不同哈希函数的非对称二值哈希是否能在更短编码长度下实现优于对称哈希的相似性近似。
• 挑战对称相似性度量必须依赖对称哈希方案的假设。
• 证明非对称哈希可在显著减少编码长度的同时提升检索准确性。
• 表明非对称哈希可在标准检索流水线中实现，而无需增加计算、通信或存储成本。

提出的方法

• 提出一种框架，通过 f(x) 和 g(x′) 之间的汉明距离来近似对象 x 和 x′ 之间的相似性，其中 f 和 g 为不同的二值哈希函数。
• 对 f 和 g 均使用线性阈值函数，即 f(x) = sign(W₁x + b₁) 和 g(x) = sign(W₂x + b₂)，以实现灵活且可学习的映射。
• 采用一种训练目标，通过基于边距的损失函数最小化学习到的汉明距离与目标相似性之间的差异。
• 采用两阶段优化：首先通过梯度下降在代理相似性上学习哈希函数，然后通过阈值化和收缩进行优化。
• 提出两种变体：Lin:Lin（两者均为线性）和 Lin:V（查询使用线性，数据库使用学习到的向量），后者表现出更优性能。
• 使用标准评估指标（如平均精度和精确率-召回率曲线）与对称基线方法进行性能对比。

实验结果

研究问题

• RQ1 非对称二值哈希是否能在更短编码长度下实现优于对称哈希的相似性近似？
• RQ2 使用两个不同哈希函数是否在表示对称相似性函数时具有理论上的编码长度优势？
• RQ3 在真实世界数据集上，非对称哈希与最先进对称哈希方法相比实际表现如何？
• RQ4 非对称哈希是否可在标准检索系统中部署，而不会增加计算或存储成本？

主要发现

• 对于特定类别的欧几里得点集，非对称哈希仅需 O(r) 位即可表示邻域相似性，而对称哈希则需要 Ω(2^r) 位，展现出超指数级优势。
• 在 LabelMe 数据集上，8 位的非对称 Lin:V 方法实现了 0.54 的平均精度，优于使用 16 位的 MLH 和 KSH 方法。
• 精确率-召回率曲线显示，Lin:V 和 Lin:Lin 在所有数据集和编码长度下均持续优于 MLH、KSH 和 BRE，尤其在短编码下表现更优。
• 在大型 Semantic 22K LabelMe 数据集上，64 位的非对称编码（Lin:V）在检索准确性上显著优于 64 位的对称方法（MLH 和 KSH）。
• 非对称性带来的性能增益在短编码下最为显著，表明非对称哈希能更高效地表示相似性。
• 该方法在部署时无需额外存储或计算成本，因其使用与对称哈希相同的数据库和查询操作。