[论文解读] Adversarial Training Makes Weight Loss Landscape Sharper in Logistic Regression

Masanori Yamada, Sekitoshi Kanai+5 more|arXiv (Cornell University)|Feb 5, 2021

Adversarial Robustness in Machine Learning参考文献 29被引用 4

一句话总结

本文通过理论和实验表明，使用 $L_2$-约束扰动的对抗训练在逻辑回归中会加剧权重损失曲面的尖锐性，主要原因是噪声方向被对准以增加损失。尖锐性随对抗噪声幅度增大而增强，且该效应比随机噪声更为显著，从而解释了鲁棒模型泛化性能下降的原因。

ABSTRACT

Adversarial training is actively studied for learning robust models against adversarial examples. A recent study finds that adversarially trained models degenerate generalization performance on adversarial examples when their weight loss landscape, which is loss changes with respect to weights, is sharp. Unfortunately, it has been experimentally shown that adversarial training sharpens the weight loss landscape, but this phenomenon has not been theoretically clarified. Therefore, we theoretically analyze this phenomenon in this paper. As a first step, this paper proves that adversarial training with the L2 norm constraints sharpens the weight loss landscape in the linear logistic regression model. Our analysis reveals that the sharpness of the weight loss landscape is caused by the noise aligned in the direction of increasing the loss, which is used in adversarial training. We theoretically and experimentally confirm that the weight loss landscape becomes sharper as the magnitude of the noise of adversarial training increases in the linear logistic regression model. Moreover, we experimentally confirm the same phenomena in ResNet18 with softmax as a more general case.

研究动机与目标

• 通过理论澄清为何对抗训练会使逻辑回归中的权重损失曲面尖锐化。
• 分析对抗噪声方向与幅度在塑造损失曲面尖锐性中的作用。
• 比较对抗噪声与随机噪声在损失曲面曲率上的影响。
• 将研究结果扩展至使用Softmax的非线性模型（如ResNet18）。
• 通过损失曲面尖锐性解释对抗训练模型中的泛化差距。

提出的方法

• 理论分析利用Hessian矩阵的特征值来定义线性逻辑回归中损失曲面的尖锐性。
• 将对抗样本分解为幅度与方向分量以进行分析。
• 推导了在 $L_2$-范数约束下的对抗训练中损失函数的Hessian矩阵。
• 应用最优权重条件以隔离对抗噪声对曲率的影响。
• 通过在MNIST2数据集上使用不同噪声幅度的实验验证理论结果。
• 对比实验评估了在对抗噪声与随机噪声下损失曲面的尖锐性。

实验结果

研究问题

• RQ1 在 $L_2$-范数约束下，对抗训练是否系统性地增加逻辑回归中权重损失曲面的尖锐性？
• RQ2 对抗噪声的幅度如何影响损失曲面的曲率？
• RQ3 对抗噪声引起的尖锐性增加是否与随机噪声导致的尖锐性增加有本质区别？
• RQ4 该现象在使用Softmax的非线性模型（如ResNet18）中是否依然成立？
• RQ5 对抗训练模型中的泛化差距是否可归因于损失曲面尖锐性的增加？

主要发现

• 理论分析证明，在 $L_2$-约束逻辑回归中，损失曲面的Hessian特征值与对抗噪声范数呈线性关系。
• 尖锐性增加是由于对抗噪声方向被对准以最大化损失，而非随机扰动所致。
• 在MNIST2上的实验结果证实，更大的对抗噪声会导致损失曲面显著变尖锐。
• 在使用Softmax的ResNet18中，随着对抗噪声幅度的增加，损失曲面的尖锐性持续增强。
• 与随机噪声相比，对抗噪声使损失曲面尖锐化的程度要大得多，而随机噪声引起的曲率增加可忽略不计。
• 本研究结论认为，损失曲面尖锐性是对抗训练模型中泛化差距的关键因素。