[论文解读] Attention Deep Model with Multi-Scale Deep Supervision for Person Re-Identification

Di Wu, Chao Wang+2 more|arXiv (Cornell University)|Nov 23, 2019

Video Surveillance and Tracking Methods参考文献 60被引用 8

一句话总结

该论文提出了一种基于注意力机制的深度学习模型，结合多尺度深度监督用于行人重识别（PReID），引入反向注意力模块以保留关键特征，并采用多尺度层与深度监督以增强训练效果。该方法在Market-1501、DukeMTMC-reID和CUHK03数据集上实现了最先进性能，通过改进特征学习并减少训练过程中的信息损失，超越了现有方法。

ABSTRACT

In recent years, person re-identification (PReID) has become a hot topic in computer vision duo to it is an important part in intelligent surveillance. Many state-of-the-art PReID methods are attention-based or multi-scale feature learning deep models. However, introducing attention mechanism may lead to some important feature information losing issue. Besides, most of the multi-scale models embedding the multi-scale feature learning block into the feature extraction deep network, which reduces the efficiency of inference network. To address these issue, in this study, we introduce an attention deep architecture with multi-scale deep supervision for PReID. Technically, we contribute a reverse attention block to complement the attention block, and a novel multi-scale layer with deep supervision operator for training the backbone network. The proposed block and operator are only used for training, and discard in test phase. Experiments have been performed on Market-1501, DukeMTMC-reID and CUHK03 datasets. All the experiment results show that the proposed model significantly outperforms the other competitive state-of-the-art methods.

研究动机与目标

• 解决注意力机制在行人重识别（PReID）模型中导致的特征信息丢失问题。
• 提升多尺度特征学习架构中的训练效率与特征表示能力。
• 在不增加推理复杂度的前提下，提升模型在标准PReID基准上的性能。
• 设计一种仅在训练阶段使用的模块，以增强特征学习，同时在推理阶段被移除。

提出的方法

• 引入反向注意力模块，与标准注意力模块互补，以保留关键特征信息。
• 提出一种新型多尺度层，结合深度监督算子，以增强训练过程中的特征学习。
• 多尺度层与深度监督仅在训练阶段应用，并在推理阶段移除，以保持效率。
• 使用深度监督算子训练主干网络，以稳定梯度并改善特征层次学习。
• 将注意力模块与反向注意力模块堆叠，以平衡特征优化与信息保留。
• 通过在多尺度特征上使用监督损失进行端到端训练，提升泛化能力。

实验结果

研究问题

• RQ1 反向注意力机制是否能有效缓解基于注意力机制的PReID模型中的特征信息丢失？
• RQ2 多尺度深度监督是否能提升行人重识别中的特征表示与模型准确率？
• RQ3 仅训练阶段使用的模块是否能在不增加推理成本的前提下提升性能？
• RQ4 所提方法在标准基准上与最先进PReID模型相比表现如何？

主要发现

• 所提模型在Market-1501数据集上实现了最先进性能，显著优于现有方法。
• 在DukeMTMC-reID数据集上，该模型的rank-1准确率高于其他先进的最先进方法。
• 在CUHK03数据集上，该模型展现出强大的泛化能力，在多种评估协议下均取得优异表现。
• 消融实验确认，反向注意力模块与多尺度深度监督均对性能提升有贡献。
• 该模型在推理阶段保持高效率，因专用模块在训练后被移除。