[论文解读] Meta Batch-Instance Normalization for Generalizable Person Re-Identification

Seokeon Choi, Taekyung Kim+3 more|arXiv (Cornell University)|Nov 30, 2020

Video Surveillance and Tracking Methods参考文献 51被引用 9

一句话总结

该论文提出Meta Batch-Instance Normalization（MetaBIN），一种基于元学习的框架，通过在训练过程中模拟欠风格归一化和过风格归一化失败情况，提升行人重识别任务中的泛化能力。通过结合可学习的批归一化-实例归一化（BIN）与循环式内更新机制，并采用多组件元训练损失，MetaBIN在无需额外数据增强的情况下，提升了对未见域的鲁棒性，在大规模域泛化基准上超越了当前最先进方法。

ABSTRACT

Although supervised person re-identification (Re-ID) methods have shown impressive performance, they suffer from a poor generalization capability on unseen domains. Therefore, generalizable Re-ID has recently attracted growing attention. Many existing methods have employed an instance normalization technique to reduce style variations, but the loss of discriminative information could not be avoided. In this paper, we propose a novel generalizable Re-ID framework, named Meta Batch-Instance Normalization (MetaBIN). Our main idea is to generalize normalization layers by simulating unsuccessful generalization scenarios beforehand in the meta-learning pipeline. To this end, we combine learnable batch-instance normalization layers with meta-learning and investigate the challenging cases caused by both batch and instance normalization layers. Moreover, we diversify the virtual simulations via our meta-train loss accompanied by a cyclic inner-updating manner to boost generalization capability. After all, the MetaBIN framework prevents our model from overfitting to the given source styles and improves the generalization capability to unseen domains without additional data augmentation or complicated network design. Extensive experimental results show that our model outperforms the state-of-the-art methods on the large-scale domain generalization Re-ID benchmark and the cross-domain Re-ID problem. The source code is available at: https://github.com/bismex/MetaBIN.

研究动机与目标

• 为解决监督式Re-ID模型在未见域上因域偏移和风格变化导致的泛化性能差的问题。
• 克服批归一化（欠风格归一化）和实例归一化（过风格归一化）在域泛化设置下的局限性。
• 通过在元训练过程中模拟失败案例，开发一种能在多样化未见域间泛化的归一化机制。
• 在不依赖数据增强或复杂网络架构修改的前提下，提升模型鲁棒性。

提出的方法

• 引入一种可学习的批归一化-实例归一化（BIN）层，通过平衡参数动态控制批归一化与实例归一化的影响力。
• 采用元学习流程，在训练过程中模拟欠风格归一化与过风格归一化场景。
• 设计一种多组件元训练损失，结合三元组损失、域内散度损失与域间洗牌损失，引导平衡参数向鲁棒配置优化。
• 应用循环式内更新策略，以多样化虚拟训练任务并借助多样的优化轨迹提升泛化能力。
• 将元训练任务分离，仅选择性地更新平衡参数，从而提升训练稳定性和收敛性。
• 通过t-SNE可视化与梯度分析，验证学习到的归一化行为及参数动态特性。

实验结果

研究问题

• RQ1 如何在不依赖目标域数据的前提下，使归一化层对行人重识别中的域偏移更具鲁棒性？
• RQ2 批归一化与实例归一化在域泛化中的失败模式是什么？能否在训练过程中主动模拟这些失败？
• RQ3 能否有效利用元学习训练一种可泛化的归一化机制，避免对源域风格的过拟合？
• RQ4 多组件元训练损失与循环更新策略的结合如何提升在未见域中的泛化能力？

主要发现

• MetaBIN在大规模域泛化Re-ID基准上达到最先进性能，且无需额外数据增强即超越现有方法。
• 通过在元训练中模拟失败案例，模型显著降低了对源域风格的过拟合，表现为在未见域上的零样本泛化能力明显提升。
• 平衡参数的最终分布显示，浅层与中间层选择性地偏向实例归一化，有助于提升泛化能力，尤其在缓解过拟合方面效果显著。
• 梯度分析表明，元训练损失组件诱导了方向性更新：三元组损失促使参数趋向批归一化，而散度与洗牌损失则推动其趋向实例归一化，从而实现对失败模式的可控模拟。
• 循环式内更新机制与任务分离策略共同提升了训练稳定性与泛化能力，表现为在多种设置下均保持一致的性能增益。