[论文解读] Signal-to-Noise Ratio: A Robust Distance Metric for Deep Metric Learning

Tongtong Yuan, Weihong Deng+3 more|arXiv (Cornell University)|Apr 4, 2019

Advanced Image and Video Retrieval Techniques参考文献 43被引用 6

一句话总结

本文提出了一种基于信噪比（SNR）的距离度量方法，用于替代深度度量学习中的欧氏距离，通过联合减小类内距离并增大类间距离，提升特征的可分性。该方法——基于深度SNR的度量学习（DSML）——在CARS196、CUB200-2011和CIFAR10等图像聚类与检索基准上达到最先进性能，且在CIFAR10和NUS-WIDE上的深度哈希任务中进一步提升了性能。

ABSTRACT

Deep metric learning, which learns discriminative features to process image clustering and retrieval tasks, has attracted extensive attention in recent years. A number of deep metric learning methods, which ensure that similar examples are mapped close to each other and dissimilar examples are mapped farther apart, have been proposed to construct effective structures for loss functions and have shown promising results. In this paper, different from the approaches on learning the loss structures, we propose a robust SNR distance metric based on Signal-to-Noise Ratio (SNR) for measuring the similarity of image pairs for deep metric learning. By exploring the properties of our SNR distance metric from the view of geometry space and statistical theory, we analyze the properties of our metric and show that it can preserve the semantic similarity between image pairs, which well justify its suitability for deep metric learning. Compared with Euclidean distance metric, our SNR distance metric can further jointly reduce the intra-class distances and enlarge the inter-class distances for learned features. Leveraging our SNR distance metric, we propose Deep SNR-based Metric Learning (DSML) to generate discriminative feature embeddings. By extensive experiments on three widely adopted benchmarks, including CARS196, CUB200-2011 and CIFAR10, our DSML has shown its superiority over other state-of-the-art methods. Additionally, we extend our SNR distance metric to deep hashing learning, and conduct experiments on two benchmarks, including CIFAR10 and NUS-WIDE, to demonstrate the effectiveness and generality of our SNR distance metric.

研究动机与目标

• 解决欧氏距离在深度度量学习中缺乏鲁棒性且无法保持特征相关性的局限性。
• 设计一种基于信号处理理论的新距离度量，更好地捕捉学习特征中的语义相似性。
• 证明SNR度量在多种深度度量学习与哈希任务中的有效性与泛化能力。
• 表明SNR度量能比欧氏距离更有效地联合最小化类内方差并最大化类间分离。

提出的方法

• 提出一种基于信噪比（SNR）的新距离度量，定义为成对嵌入中特征方差与噪声方差的比值。
• 通过几何与统计分析对SNR度量进行理论证明，表明其在鲁棒性与相关性保持方面优于欧氏距离。
• 将SNR度量集成到深度度量学习框架中，构建用于训练可分嵌入的新目标函数。
• 提出深度SNR基度量学习（DSML），用SNR度量替代对比损失或三元组类似损失函数中的欧氏距离。
• 通过将实值SNR优化特征应用符号函数，将SNR度量扩展至深度哈希，实现二进制码学习。
• 采用CNN-F网络架构，并使用带动量的随机梯度下降在图像数据集上进行训练。

实验结果

研究问题

• RQ1 SNR能否在深度度量学习中作为比欧氏距离更鲁棒、更具信息量的距离度量？
• RQ2 基于SNR的度量是否能改善学习特征空间中的类内紧凑性与类间可分性？
• RQ3 SNR度量能否在度量学习与深度哈希检索任务中均实现有效泛化？
• RQ4 在标准基准上，SNR基度量与最先进深度度量学习方法相比表现如何？

主要发现

• DSML在CARS196、CUB200-2011和CIFAR10上的图像聚类与检索任务中达到最先进性能，优于基于对比损失、三元组损失与N-pair损失的方法。
• 在CIFAR10上，DSML在欧氏距离与汉明距离排序策略下均实现更优的检索准确率，MAP结果显著高于基线方法。
• t-SNE可视化结果表明，与使用欧氏距离的对比方法相比，DSML生成的特征簇更具可分性且分离更清晰。
• 所提出的DSNRH方法在CIFAR10与NUS-WIDE上所有测试哈希基线中均取得最高的MAP@50000，且在两个数据集上的平均MAP均超过60%。
• 特征空间分析验证，SNR度量持续比欧氏距离更有效地减小类内距离并增大类间距离。
• SNR基度量展现出强大的泛化能力，在包括度量学习与哈希在内的多种深度学习任务中均保持高性能。