[论文解读] ABD-Net: Attentive but Diverse Person Re-Identification

Tianlong Chen, Shaojin Ding+6 more|ArXiv.org|Aug 3, 2019

Video Surveillance and Tracking Methods参考文献 64被引用 64

一句话总结

ABD-Net 将通道注意力与位置注意力结合起来，并引入一种新颖的 SVDO 正交性正则化，以在激活和权重两方面实现多样性，从而在主要的 Re-ID 基准测试上达到最先进的结果。

ABSTRACT

Attention mechanism has been shown to be effective for person re-identification (Re-ID). However, the learned attentive feature embeddings which are often not naturally diverse nor uncorrelated, will compromise the retrieval performance based on the Euclidean distance. We advocate that enforcing diversity could greatly complement the power of attention. To this end, we propose an Attentive but Diverse Network (ABD-Net), which seamlessly integrates attention modules and diversity regularization throughout the entire network, to learn features that are representative, robust, and more discriminative. Specifically, we introduce a pair of complementary attention modules, focusing on channel aggregation and position awareness, respectively. Furthermore, a new efficient form of orthogonality constraint is derived to enforce orthogonality on both hidden activations and weights. Through careful ablation studies, we verify that the proposed attentive and diverse terms each contributes to the performance gains of ABD-Net. On three popular benchmarks, ABD-Net consistently outperforms existing state-of-the-art methods.

研究动机与目标

• 促使将注意力与特征多样性结合，以提高 Re-ID 的判别能力。
• 开发互补的注意力模块（通道和位置）以捕捉稳健且具判别性的特征。
• 引入基于 SVDO 的正交性以在不进行大量计算的情况下降低特征和权重的相关性。
• 证明注意力加多样性在性能上优于仅有注意力或仅有多样性。

提出的方法

• 实现一个复合注意力框架，包含通道注意力模块（CAM）和位置注意力模块（PAM），以捕捉通道级和空间依赖。
• 对隐藏激活（O.F.）和权重（O.W.）应用新颖的光谱值差异正交（SVDO）正则化以促进多样性。
• 使用带有双分支结构（注意力分支和全局分支）的 ResNet-50 主干，并将它们的输出连接以形成最终嵌入。
• 用一个结合交叉熵、困难 mining triplet 损失以及 SVDO 罚项的损失来训练（L = Lxent + β_tr L_triplet + β_O.F L_O.F + β_O.W L_O.W）。
• 通过幂迭代法近似 SVDO，以估计 FF^T 的特征值前几个特征值，避免全 SVD。

实验结果

研究问题

• RQ1 将通道注意力与位置注意力结合是否能提高对齐误差和背景干扰的鲁棒性在 Re-ID 中？
• RQ2 使用 SVDO 强制多样性是否能降低特征相关性并在使用欧氏距离时提升检索效果？
• RQ3 ABD-Net 相对于 Market-1501、DukeMTMC-Re-ID 和 MSMT17 的最先进表现如何？
• RQ4 注意力对整体提升的贡献与多样性分别对 Re-ID 性能的提升有何区别？

主要发现

• ABD-Net 在三个主要 Re-ID 基准上持续超越之前方法。
• 联合使用 CAM 与 PAM 的性能优于任一注意力模块单独使用。
• 基于 SVDO 的特征和权重正则化降低特征相关性并提升判别性。
• 将注意力与多样性结合在注意力或多样性单独使用的基础上带来额外的增益。
• 在 Market-1501 上，ABD-Net 实现了最先进的结果，相比以注意力为基础的基线有显著提升。
• 在 DukeMTMC-Re-ID 与 MSMT17 上，ABD-Net 获得领先的 top-1 与 mAP 得分。