[论文解读] Prepare for the Worst: Generalizing across Domain Shifts with Adversarial Batch Normalization
本文提出对抗性批归一化（AdvBN），一种通过对抗性扰动批归一化统计量而非图像像素来增强模型对域偏移鲁棒性的方法。AdvBN在ImageNet-C上将ResNet-50性能提升8.1%，在Stylized-ImageNet上提升6.7%，在ImageNet-Instagram上提升3.9%，展示了在分布偏移下的强大泛化能力。
Adversarial training is the industry standard for producing models that are robust to small adversarial perturbations. However, machine learning practitioners need models that are robust to other kinds of changes that occur naturally, such as changes in the style or illumination of input images. Such changes in input distribution have been effectively modeled as shifts in the mean and variance of deep image features. We adapt adversarial training by adversarially perturbing these feature statistics, rather than image pixels, to produce models that are robust to distributional shifts. We also visualize images from adversarially crafted distributions. Our method, Adversarial Batch Normalization (AdvBN), significantly improves the performance of ResNet-50 on ImageNet-C (+8.1%), Stylized-ImageNet (+6.7%), and ImageNet-Instagram (+3.9%) over standard training practices. In addition, we demonstrate that AdvBN can also improve generalization on semantic segmentation.
研究动机与目标
- 解决深度模型在自然分布偏移（如图像风格或光照变化）下的鲁棒性问题。
- 在无需特定领域数据增强的情况下，提升模型在域偏移下的泛化能力。
- 开发一种通过针对特征级统计量而非原始像素来增强鲁棒性的训练方法。
- 证明对抗性扰动批归一化统计量在多个基准数据集上提升性能的有效性。
提出的方法
- 将对抗性训练方法应用于扰动批归一化层的运行均值和方差，而非图像像素。
- 在训练过程中向深度特征的统计量引入对抗性噪声，以模拟分布偏移。
- 以最大化模型预测误差的方式扰动批归一化统计量，从而增强模型鲁棒性。
- 该方法可无缝集成到标准训练流程中，仅需极少架构修改，与ResNet及其他模型兼容。
- 通过可视化由对抗性构造分布生成的图像，解释所诱导的分布偏移。
实验结果
研究问题
- RQ1对批归一化统计量进行对抗性扰动能否提升模型对域偏移的鲁棒性？
- RQ2AdvBN与标准训练及基于图像像素的对抗性训练相比，在处理分布偏移时表现如何？
- RQ3AdvBN在下游任务（如语义分割）中的泛化能力提升程度如何？
- RQ4对批统计量进行对抗性扰动会诱导出何种类型的分布偏移？
主要发现
- 与标准训练相比，AdvBN在ImageNet-C上将ResNet-50准确率提升8.1%。
- 在Stylized-ImageNet上，AdvBN实现6.7%的准确率增益，表明其对风格偏移具有强鲁棒性。
- 在ImageNet-Instagram上，AdvBN性能提升3.9%，证明其在真实世界分布偏移下的有效性。
- 该方法不仅适用于图像分类，还能提升语义分割任务的性能。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。