[论文解读] Towards Optimal Discrete Online Hashing with Balanced Similarity

Mingbao Lin, Rongrong Ji+4 more|arXiv (Cornell University)|Jan 29, 2019

Advanced Image and Video Retrieval Techniques参考文献 28被引用 5

一句话总结

该论文提出BSODH，一种新颖的监督在线哈希方法，通过使用平衡相似性公式直接优化离散二进制码，以解决在线学习中的数据不平衡和量化误差问题。通过整合异构图正则化与离散优化，并引入相似对和不相似对的均衡因子，BSODH在CIFAR-10、Places-205和MNIST数据集上实现了最先进性能，64位码长下Precision@H2最高达0.814。

ABSTRACT

When facing large-scale image datasets, online hashing serves as a promising solution for online retrieval and prediction tasks. It encodes the online streaming data into compact binary codes, and simultaneously updates the hash functions to renew codes of the existing dataset. To this end, the existing methods update hash functions solely based on the new data batch, without investigating the correlation between such new data and the existing dataset. In addition, existing works update the hash functions using a relaxation process in its corresponding approximated continuous space. And it remains as an open problem to directly apply discrete optimizations in online hashing. In this paper, we propose a novel supervised online hashing method, termed Balanced Similarity for Online Discrete Hashing (BSODH), to solve the above problems in a unified framework. BSODH employs a well-designed hashing algorithm to preserve the similarity between the streaming data and the existing dataset via an asymmetric graph regularization. We further identify the "data-imbalance" problem brought by the constructed asymmetric graph, which restricts the application of discrete optimization in our problem. Therefore, a novel balanced similarity is further proposed, which uses two equilibrium factors to balance the similar and dissimilar weights and eventually enables the usage of discrete optimizations. Extensive experiments conducted on three widely-used benchmarks demonstrate the advantages of the proposed method over the state-of-the-art methods.

研究动机与目标

• 解决在线哈希中的更新不平衡问题，其中现有方法忽略了流式数据与现有数据集之间的相关性。
• 通过实现直接离散优化而非连续空间的松弛，克服优化低效问题。
• 解决在线设置中由于异构图正则化导致的数据不平衡问题，该问题会导致生成一致的（非判别性）二进制码。
• 构建一个统一框架，将离散优化与新旧数据间的相似性保持相结合。
• 实现高效、有效且可扩展的在线哈希，量化误差最小化，同时保证高判别性码质量。

提出的方法

• 使用异构图正则化，在汉明空间中保持流式数据与现有数据集之间的相似性。
• 在二进制码上直接构建离散优化问题，以消除连续松弛带来的量化误差。
• 提出一种平衡相似性度量，包含两个均衡因子，以平衡相似对与不相似对的影响。
• 引入一种离散循环坐标下降（DCC）方法，用于在平衡相似性框架下求解二进制优化问题。
• 以在线方式动态构建新数据批次与现有数据集之间的异构图。
• 将离散优化集成到在线学习流程中，实现哈希函数与码的同步更新。

实验结果

研究问题

• RQ1 尽管存在数据不平衡问题，离散优化是否能有效应用于在线哈希？
• RQ2 与异构图中不平衡相似性相比，所提出的平衡相似性度量在提升码判别性方面有何改进？
• RQ3 数据不平衡对在线哈希中二进制码的收敛性和质量有何影响？
• RQ4 在在线设置中，直接离散优化是否能在准确率和效率方面优于基于松弛的方法？
• RQ5 平衡相似性公式中的均衡因子如何影响所学习哈希函数的性能与稳定性？

主要发现

• 在64位码长下，BSODH在MNIST上的Precision@H2达到0.814，相比通过提升参数σt的方法，性能提升超过2.5倍。
• 所提出的平衡相似性使t-SNE可视化中形成十个独立聚类，而不平衡相似性因数据不平衡仅形成四个聚类。
• 离散优化过程在每个新数据批次上仅需一到两次迭代即可收敛，表明其在在线学习中具有高效率和快速适应能力。
• 该方法在所有基准测试——CIFAR-10、Places-205和MNIST——中均保持高性能，证实了其鲁棒性与泛化能力。
• 将σt提升至10,000会导致次优结果（Precision@H2为0.341），凸显了超参数调优的局限性，相较之下所提出的平衡相似性更具优势。
• 二进制码B_s^t和B_e^t的收敛过程稳定且迅速，初始阶段后仅需一次迭代，证实了该方法的可扩展性。