[论文解读] Nearest Neighbour Radial Basis Function Solvers for Deep Neural Networks

Benjamin J. Meyer, Ben Harwood+1 more|arXiv (Cornell University)|May 27, 2017

Face and Expression Recognition被引用 5

一句话总结

本文提出了一种用于深度神经网络的径向基函数（RBF）求解器，将每个训练特征视为RBF中心，并在嵌入空间中通过近似最近邻搜索计算损失。该方法通过实现端到端学习以聚类语义相似的样本，在度量学习任务上于Stanford Cars196和CUB-200-2011数据集上达到最先进性能，并在分类任务上优于Softmax在Caltech-256和CUB-200-2011上的表现。

ABSTRACT

We present a radial basis function solver for convolutional neural networks that can be directly applied to both image classification and distance metric learning problems. Our method treats all training features from a deep neural network as radial basis function centres and computes loss by summing the influence of a feature's nearby centres in the embedding space. Having a radial basis function centred on each training feature is made scalable by treating it as an approximate nearest neighbour search problem. End-to-end learning of the network and solver is carried out, mapping high dimensional features into clusters of the same class. This results in a well formed embedding space, where semantically related instances are likely to be located near one another, regardless of whether or not the network was trained on those classes. The same loss function is used for both the metric learning and classification problems. We show that our radial basis function solver sets state-of-the-art embedding results on the Stanford Cars196 and CUB-200-2011 datasets. Additionally, we show that when used as a classifier, our method outperforms a conventional softmax classifier on the Caltech-256 object recognition dataset and the fine-grained recognition dataset CUB-200-2011.

研究动机与目标

• 开发一种可扩展的、端到端可训练的损失函数，用于深度神经网络，以提升度量学习和分类任务中嵌入空间的质量。
• 解决在高维特征空间中聚类语义相似样本的挑战，且在推理阶段无需类别特定监督。
• 通过以训练特征为中心的径向基函数，统一度量学习与分类任务于单一损失函数下。
• 使用单一通用求解器在细粒度识别与物体识别基准上实现最先进性能。

提出的方法

• 将深度网络嵌入空间中的每个训练特征视为径向基函数中心。
• 通过近似最近邻搜索实现可扩展性，计算损失时汇总特征在嵌入空间中最近邻的影响。
• RBF求解器具有可微性，与神经网络联合训练以优化特征聚类。
• 该方法将高维特征映射至类别一致的聚类中，形成结构良好的嵌入空间。
• 统一应用单一损失函数于度量学习与分类任务。
• 该方法利用特征的局部邻域结构，提升泛化能力与语义相似性。

实验结果

研究问题

• RQ1 基于径向基函数的损失函数能否提升深度神经网络中学习到的嵌入质量？
• RQ2 此类方法能否在度量学习与分类基准上均实现最先进性能？
• RQ3 使用所有训练特征作为RBF中心，并结合近似最近邻计算，能否在大规模数据集上有效扩展？
• RQ4 能否在不修改网络架构的前提下，使统一的损失函数在度量学习与分类任务中均有效？

主要发现

• 所提出的RBF求解器在Stanford Cars196数据集上实现了度量学习任务的最先进性能。
• 在CUB-200-2011细粒度识别数据集上，该方法在度量学习任务中创下新的最先进结果。
• 作为分类器使用时，该方法在Caltech-256物体识别数据集上的表现优于标准Softmax分类器。
• 该方法在CUB-200-2011细粒度分类基准上也超越了Softmax的准确率。
• 由RBF求解器形成的嵌入空间表现出对语义相似样本的强聚类能力，即使在训练中未见的类别上亦然。