[论文解读] Discrete Hashing with Deep Neural Network

Thanh-Toan Do, Anh-Zung Doan+1 more|arXiv (Cornell University)|Aug 28, 2015

Advanced Image and Video Retrieval Techniques参考文献 32被引用 8

一句话总结

该论文提出了一种名为基于深度神经网络的离散哈希（SDH-DNN）的新颖监督哈希方法，该方法在不放松二值约束的前提下直接优化二进制码，通过引入一个辅助变量将优化过程解耦为交替更新权重和二进制码的步骤。该方法在CIFAR-10和MNIST数据集上实现了最先进性能，在8位码长下mAP指标最高提升17%。

ABSTRACT

This paper addresses the problem of learning binary hash codes for large scale image search by proposing a novel hashing method based on deep neural network. The advantage of our deep model over previous deep model used in hashing is that our model contains necessary criteria for producing good codes such as similarity preserving, balance and independence. Another advantage of our method is that instead of relaxing the binary constraint of codes during the learning process as most previous works, in this paper, by introducing the auxiliary variable, we reformulate the optimization into two sub-optimization steps allowing us to efficiently solve binary constraints without any relaxation. The proposed method is also extended to the supervised hashing by leveraging the label information such that the learned binary codes preserve the pairwise label of inputs. The experimental results on three benchmark datasets show the proposed methods outperform state-of-the-art hashing methods.

研究动机与目标

• 为解决大规模图像搜索中学习紧凑且高质量二进制哈希码的挑战。
• 克服现有深度哈希方法在优化过程中放松二值约束所带来的局限性，从而避免次优解。
• 在深度神经网络框架内整合良好哈希码的关键标准——相似性保持、平衡性与独立性。
• 开发一种高效的优化策略，直接处理二值约束而无需松弛，从而提升码的质量与检索性能。

提出的方法

• 引入辅助变量，将二值优化问题重新表述为两个交替子优化步骤：分别优化网络权重和二进制码。
• 使用L-BFGS优化深度神经网络权重，并采用循环坐标下降法独立更新二进制码的每一位。
• 采用联合目标函数，强制实现相似性保持、平衡性（1和0数量相等）以及独立性（比特间不相关）。
• 在监督设置中利用标签信息，基于类别标签构建成对相似性矩阵S以指导码的学习。
• 采用非松弛化优化策略：不通过对连续输出进行阈值化处理，而是在训练过程中直接优化离散二进制码。
• 通过基于输入数据结构自构建相似性矩阵，将该方法扩展至无监督哈希（UDH-DNN）。

实验结果

研究问题

• RQ1 能否有效训练深度神经网络以生成离散二进制哈希码，而无需放松二值约束？
• RQ2 在目标函数中引入相似性保持、平衡性与独立性是否能相比先前方法提升检索性能？
• RQ3 所提出的交替优化策略能否高效求解哈希中的NP难离散优化问题？
• RQ4 所提方法在基准数据集上的性能与当前最先进监督与无监督哈希技术相比如何？

主要发现

• 在CIFAR-10数据集上，SDH-DNN在8位码长下相比最先进监督哈希方法SDH，mAP指标提升17%。
• 在MNIST数据集上，SDH-DNN在8位码长下相比SDH实现mAP提升13.9%，且在所有码长下均保持一致增益。
• 在低码长（8–16位）下，SDH-DNN在mAP以及Hamming距离3和4下的精确率方面显著优于KSH和ITQ-CCA。
• 在较长码长（32–64位）下，SDH-DNN与SDH性能相当，表明其具有出色的可扩展性。
• 所提出的优化策略无需松弛即可有效处理二值约束，生成的码质量高于对连续输出进行阈值化处理的结果。
• 在目标函数中引入相似性保持、平衡性与独立性，使得生成的哈希码更具鲁棒性与判别性。