[论文解读] MIHash: Online Hashing with Mutual Information

Fatih Çakir, Kun He+2 more|arXiv (Cornell University)|Mar 27, 2017

Advanced Image and Video Retrieval Techniques参考文献 29被引用 7

一句话总结

本文提出MIHash，一种新颖的在线哈希方法，利用互信息作为质量度量，以减少不必要的哈希表更新，同时保持高检索准确率。通过随机梯度下降优化互信息，MIHash在在线和批量设置下均实现了最先进性能，在Places205等大规模基准上将哈希表重新计算次数减少了逾一个数量级。

ABSTRACT

Learning-based hashing methods are widely used for nearest neighbor retrieval, and recently, online hashing methods have demonstrated good performance-complexity trade-offs by learning hash functions from streaming data. In this paper, we first address a key challenge for online hashing: the binary codes for indexed data must be recomputed to keep pace with updates to the hash functions. We propose an efficient quality measure for hash functions, based on an information-theoretic quantity, mutual information, and use it successfully as a criterion to eliminate unnecessary hash table updates. Next, we also show how to optimize the mutual information objective using stochastic gradient descent. We thus develop a novel hashing method, MIHash, that can be used in both online and batch settings. Experiments on image retrieval benchmarks (including a 2.5M image dataset) confirm the effectiveness of our formulation, both in reducing hash table recomputations and in learning high-quality hash functions.

研究动机与目标

• 解决在线哈希系统中频繁更新哈希函数后需反复重新计算哈希表所导致的效率低下问题。
• 开发一种通用的、无需参数的质量度量方法，用于评估哈希函数，且该度量与检索性能高度相关。
• 通过仅在互信息表明质量提升时才更新哈希表，实现高效的在线学习。
• 将互信息直接作为学习目标进行优化，以实现端到端的哈希函数学习。
• 在无需调整超参数的情况下，于在线和批量设置下均实现最先进检索准确率。

提出的方法

• 提出一种基于邻居与非邻居哈希距离分布之间互信息的质量度量方法，用于评估哈希函数质量。
• 引入一种流式可计算的互信息估计器，用于在在线设置中指导哈希表的更新时机。
• 推导出用于将互信息作为学习目标进行优化的随机梯度下降规则，支持在线与深度学习。
• 设计一种即插即用模块，可集成至现有在线哈希方法中，以减少更新频率而不损失准确率。
• 将该方法应用于线性与深度神经网络架构，支持端到端训练。
• 采用双流数据结构，分别维护邻居与非邻居的哈希距离分布，以支持互信息估计。

实验结果

研究问题

• RQ1 在在线哈希中，应何时更新哈希表，以在计算成本与检索质量之间取得平衡？
• RQ2 互信息能否作为最近邻检索中哈希函数的有效、无参数质量度量？
• RQ3 能否通过随机梯度下降有效优化互信息，以学习高质量的哈希函数？
• RQ4 将互信息作为哈希表更新的判据，是否能在不降低性能的前提下带来显著的计算节省？
• RQ5 基于互信息的优化能否在在线与批量哈希设置中均实现最先进性能？

主要发现

• 在包含250万张图像的Places205数据集上，MIHash相较于基线在线哈希方法，将哈希表重新计算次数减少了逾一个数量级。
• 在批量设置下，MIHash在CIFAR-10数据集上使用48位编码实现了0.942的mAP，优于DTSH（0.934）和DPSH（0.932），达到最先进水平。
• 即使仅训练一个周期，MIHash在CIFAR-10（48位）上仍达到0.746的mAP，超过FastHash（0.738）和DTSH（0.702）。
• 互信息质量度量与mAP等标准检索指标具有强相关性，验证了其作为代理目标的有效性。
• 该方法具有通用性，可作为即插即用模块集成至现有在线哈希框架中，减少更新频率而无需重新训练。
• MIHash在无需调整边距、阈值或其他超参数的情况下实现优越性能，而竞争方法通常需要此类调参。