[论文解读] Optimizing affinity-based binary hashing using auxiliary coordinates

Ramin Raziperchikolaei, Miguel Á. Carreira-Perpiñán|arXiv (Cornell University)|Jan 21, 2015

Advanced Image and Video Retrieval Techniques参考文献 31被引用 10

一句话总结

本文提出了一种新颖的框架，通过联合学习哈希函数与二值码并利用辅助坐标，优化基于亲和力的二值哈希，确保两者协同进化以提升检索性能。该方法通过迭代优化函数与码本，以极低的计算开销实现了更高的精度与召回率，优于标准方法。

ABSTRACT

In supervised binary hashing, one wants to learn a function that maps a high-dimensional feature vector to a vector of binary codes, for application to fast image retrieval. This typically results in a difficult optimization problem, nonconvex and nonsmooth, because of the discrete variables involved. Much work has simply relaxed the problem during training, solving a continuous optimization, and truncating the codes a posteriori. This gives reasonable results but is quite suboptimal. Recent work has tried to optimize the objective directly over the binary codes and achieved better results, but the hash function was still learned a posteriori, which remains suboptimal. We propose a general framework for learning hash functions using affinity-based loss functions that uses auxiliary coordinates. This closes the loop and optimizes jointly over the hash functions and the binary codes so that they gradually match each other. The resulting algorithm can be seen as a corrected, iterated version of the procedure of optimizing first over the codes and then learning the hash function. Compared to this, our optimization is guaranteed to obtain better hash functions while being not much slower, as demonstrated experimentally in various supervised datasets. In addition, our framework facilitates the design of optimization algorithms for arbitrary types of loss and hash functions.

研究动机与目标

• 解决现有二值哈希方法在独立优化哈希函数与二值码时性能欠佳的问题。
• 通过联合优化两个组件，弥合哈希函数学习与码本生成之间的闭环。
• 开发一种可泛化的优化框架，支持任意损失函数与哈希函数类型。
• 通过确保学习到的哈希函数与二值码相互一致，提升检索准确性。
• 证明联合优化可在不显著增加计算开销的前提下，实现更好的码本利用率与检索性能。

提出的方法

• 引入一种辅助坐标框架，将二值码视为优化哈希函数过程中的辅助变量。
• 采用交替优化策略：首先在给定当前码本的情况下更新哈希函数参数，然后在给定当前函数的情况下更新码本。
• 应用经校正的、迭代的标准化两步法（先优化码本，再学习函数），确保收敛至更优解。
• 在优化过程中对二值约束进行连续松弛，并在每次迭代后通过投影恢复为二值码。
• 支持任意基于亲和力的损失函数与哈希函数，提升模型设计的灵活性。
• 通过迭代优化两个组件，保证目标函数的单调提升。

实验结果

研究问题

• RQ1 联合优化哈希函数与二值码是否能显著优于分别优化的方法？
• RQ2 所提出的辅助坐标框架在精度与召回率方面是否优于标准的两步法？
• RQ3 该框架能否推广至任意损失函数与哈希函数架构？
• RQ4 联合优化如何影响大规模数据集中码本的利用率与碰撞率？
• RQ5 所提出的方法在大规模图像检索任务中是否具备计算可行性？

主要发现

• 与标准两步优化相比，该方法在 SIFT1M 及其他基准数据集上实现了显著更高的精度与召回率。
• 通过辅助坐标实现的联合优化使损失函数单调下降，确保收敛至更优解。
• 码本利用率得到提升，表现为有效熵 $b_{\text{eff}}$ 增加，表明码本碰撞减少且码本分布更优。
• 该框架在性能上优于最先进的方法（如 KSH、MAC 和 tPCA），尤其在有监督与无监督设置下表现突出。
• 尽管联合优化增加了复杂度，但该方法仍保持高效，运行速度与标准方法相比无显著下降。
• 该框架在不同损失函数与哈希函数类型下均表现稳健，展现出广泛的适用性。