[论文解读] Asymmetric Deep Supervised Hashing

Qing-Yuan Jiang, Wu-Jun Li|arXiv (Cornell University)|Jul 26, 2017

Advanced Image and Video Retrieval Techniques参考文献 30被引用 7

一句话总结

本文提出了一种新型深度学习方法——非对称深度监督哈希（ADSH），用于大规模近似最近邻搜索。该方法对查询点和数据库点采用非对称处理方式：仅对查询点学习深度哈希函数，而直接优化数据库点的二值哈希码。这种设计使得训练速度显著提升，且性能优于对称深度哈希方法，在CIFAR-10和NUS-WIDE等大规模数据集上实现了最先进（SOTA）的准确率。

ABSTRACT

Hashing has been widely used for large-scale approximate nearest neighbor search because of its storage and search efficiency. Recent work has found that deep supervised hashing can significantly outperform non-deep supervised hashing in many applications. However, most existing deep supervised hashing methods adopt a symmetric strategy to learn one deep hash function for both query points and database (retrieval) points. The training of these symmetric deep supervised hashing methods is typically time-consuming, which makes them hard to effectively utilize the supervised information for cases with large-scale database. In this paper, we propose a novel deep supervised hashing method, called asymmetric deep supervised hashing (ADSH), for large-scale nearest neighbor search. ADSH treats the query points and database points in an asymmetric way. More specifically, ADSH learns a deep hash function only for query points, while the hash codes for database points are directly learned. The training of ADSH is much more efficient than that of traditional symmetric deep supervised hashing methods. Experiments show that ADSH can achieve state-of-the-art performance in real applications.

研究动机与目标

• 解决对称深度监督哈希方法因数据库规模增大而呈二次方增长的高计算成本问题。
• 通过直接学习数据库点的二值哈希码而非通过学习到的哈希函数生成，以提升检索准确率。
• 通过避免采样子集进行训练，实现在大规模数据库上的高效训练。
• 探索在深度监督哈希中采用非对称学习的有效性，即对查询点和数据库点区别对待。
• 在实际应用中实现最先进性能，且训练开销极低。

提出的方法

• ADSH采用非对称架构，仅对查询点训练深度神经网络，而数据库点的二值哈希码则通过优化过程直接分配。
• 该方法将学习目标表述为对查询点的深度神经网络和数据库点的二值码的联合优化，使用成对或三元组监督信号。
• 采用逐位学习策略来优化数据库哈希码，实证表明其准确率高于通过查询网络生成哈希码的方式。
• 通过解耦查询函数与数据库码的学习，将训练成本从 O(n²) 降低至 O(n)，从而支持全数据库训练。
• 该方法利用监督信息（如成对或三元组标签）来引导深度特征学习与哈希码优化。
• 采用基于边距的损失函数，确保相似样本被映射到相似的哈希码，从而提升检索准确率。

实验结果

研究问题

• RQ1 在深度监督哈希中采用非对称学习是否能在保持或提升检索准确率的同时实现更快的训练速度？
• RQ2 直接优化数据库点的二值哈希码是否优于通过学习到的哈希函数生成？
• RQ3 ADSH能否在不产生禁止性计算成本的前提下，有效利用整个数据库进行训练？
• RQ4 在大规模数据集上，ADSH与对称深度哈希方法相比，在准确率和训练效率方面表现如何？
• RQ5 在实际应用中，非对称设计是否是一种可行且更优的替代对称深度哈希的方法？

主要发现

• ADSH在CIFAR-10和NUS-WIDE数据集上均实现了最先进（SOTA）的平均平均精度（MAP），优于所有基线方法，包括DSH、DHN和DPSH。
• 在使用48位哈希码的CIFAR-10数据集中，ADSH的MAP达到0.9074，显著高于DPSH（0.8216）和DSH（0.7844）。
• 在使用48位哈希码的NUS-WIDE数据集中，ADSH的MAP达到0.9074，超过次优基线方法COSDISH-D（0.8670）。
• 当使用全数据库训练时，ADSH的训练速度比对称深度哈希基线方法快达10倍，且训练时间随数据集规模增长缓慢。
• 在使用整个NUS-WIDE数据库（10,500个样本）时，ADSH在不到10小时内达到更高准确率，而对称方法仅用采样子集训练就需超过10小时才能收敛。
• 消融研究证实，直接学习数据库码（ADSH-D）的准确率高于通过查询网络生成，验证了非对称设计的有效性。