[论文解读] Label Noise in Adversarial Training: A Novel Perspective to Study Robust Overfitting

Chengyu Dong, Liyuan Liu+1 more|arXiv (Cornell University)|Oct 7, 2021

Machine Learning and Data Classification被引用 6

一句话总结

本文将对抗训练中的标签噪声识别为鲁棒过拟合的关键原因，其源于对抗样本在经历扰动导致语义变化后，仍继承干净数据的标签。本文提出一种自校准方法，利用概率分类器的预测标签分布来减少标签噪声，从而在不引入额外超参数的情况下，提升多种模型和数据集的鲁棒准确率。

ABSTRACT

We show that label noise exists in adversarial training. Such label noise is due to the mismatch between the true label distribution of adversarial examples and the label inherited from clean examples - the true label distribution is distorted by the adversarial perturbation, but is neglected by the common practice that inherits labels from clean examples. Recognizing label noise sheds insights on the prevalence of robust overfitting in adversarial training, and explains its intriguing dependence on perturbation radius and data quality. Also, our label noise perspective aligns well with our observations of the epoch-wise double descent in adversarial training. Guided by our analyses, we proposed a method to automatically calibrate the label to address the label noise and robust overfitting. Our method achieves consistent performance improvements across various models and datasets without introducing new hyper-parameters or additional tuning.

研究动机与目标

• 探究对抗训练中鲁棒过拟合的根本原因，尽管该现象被广泛观察到，但其内在机制仍不甚明了。
• 识别出标签噪声源于干净样本与对抗样本之间标签分布不匹配，这是由扰动引起的语义偏移所致。
• 通过标签噪声的视角，解释鲁棒过拟合对扰动半径和数据质量的依赖性。
• 提出一种方法，自动校准对抗样本的标签以减少标签噪声，从而缓解鲁棒过拟合。
• 在不引入新超参数的前提下，验证该方法在多种模型、数据集和鲁棒性评估指标下的有效性。

提出的方法

• 该方法使用对抗训练得到的概率分类器的预测标签分布，作为对抗样本的更优标签，以高概率近似真实标签分布。
• 通过温度缩放和插值进一步降低标签噪声，灵感来源于置信度校准技术。
• 校准策略自动确定最优参数以最小化标签噪声，从而无需人工调参。
• 该方法基于现代泛化理论，与对抗训练中观察到的周期内双下降现象一致。
• 其整合了知识蒸馏的思想，但自动化了缩放与插值参数的选择，以实现最大化的噪声抑制。
• 该方法在对抗训练过程中应用，无需修改模型架构或增加新的超参数。

实验结果

研究问题

• RQ1 为何鲁棒过拟合会在对抗训练中出现？其背后的根本因素是什么？
• RQ2 扰动半径如何影响鲁棒过拟合的严重程度？这一现象能否由标签噪声解释？
• RQ3 为何数据质量是鲁棒过拟合中的关键因素？标签噪声在其中起到何种中介作用？
• RQ4 对抗训练中观察到的周期内双下降现象，是否可归因于标签噪声？
• RQ5 是否能够自动校准对抗样本的标签以减少噪声并提升鲁棒泛化性能？

主要发现

• 对抗训练中的标签噪声源于对抗样本真实标签分布与从干净数据继承的标签之间的不匹配，其成因是扰动引起的语义失真。
• 所提出的标签校准方法在多个模型（如 WRN-28-5）和数据集（如 CIFAR-10）上均一致提升了鲁棒准确率，且未引入新超参数。
• 该方法通过缓解标签噪声引起的方差增加，减轻了鲁棒过拟合，与泛化中的偏差-方差权衡一致。
• 在对抗训练中观察到周期内双下降现象：对于大模型，鲁棒测试误差在 1,000 个周期后再次下降，与标签噪声引起的泛化动态一致。
• 该方法在不同模型规模下表现稳健：小模型呈现单调误差下降，中等模型呈现 U 型曲线，大模型表现出双下降，这些现象均可由标签噪声解释。
• 通过对抗训练模型的预测概率估计数据质量，结果表明高质量数据与更低的标签噪声及更好的鲁棒性相关。