[论文解读] Formalizing Generalization and Robustness of Neural Networks to Weight Perturbations

Yu‐Lin Tsai, Chia-Yi Hsu+2 more|arXiv (Cornell University)|Mar 3, 2021

Adversarial Robustness in Machine Learning参考文献 28被引用 6

一句话总结

本文提出了一套理论框架，用于形式化前馈神经网络在范数有界权重扰动下的泛化能力和鲁棒性，推导了分类边距和Rademacher复杂度的界。该文提出了一种基于理论的损失函数，同时提升了泛化能力和对抗鲁棒性，并通过实证实验验证了鲁棒模型中非平凡的泛化界。

ABSTRACT

Studying the sensitivity of weight perturbation in neural networks and its impacts on model performance, including generalization and robustness, is an active research topic due to its implications on a wide range of machine learning tasks such as model compression, generalization gap assessment, and adversarial attacks. In this paper, we provide the first integral study and analysis for feed-forward neural networks in terms of the robustness in pairwise class margin and its generalization behavior under weight perturbation. We further design a new theory-driven loss function for training generalizable and robust neural networks against weight perturbations. Empirical experiments are conducted to validate our theoretical analysis. Our results offer fundamental insights for characterizing the generalization and robustness of neural networks against weight perturbations.

研究动机与目标

• 理论表征权重扰动、分类边距鲁棒性与前馈神经网络泛化差距之间的相互作用。
• 基于理论分析，开发一种新型损失函数，用于训练对权重扰动具有鲁棒性的模型。
• 通过在对抗性权重攻击下对泛化和鲁棒性的实证实验，验证理论洞见。
• 证明使用所提损失函数训练时，泛化界保持非平凡，而标准训练下则趋于平凡。

提出的方法

• 利用谱范数，推导单层、全层及选定层权重扰动下成对类别边距的最坏情况鲁棒性界。
• 通过权重扰动下的Rademacher复杂度分析泛化行为，为鲁棒模型建立非平凡界。
• 提出一种基于理论的损失函数，联合优化鲁棒性（通过最坏情况边距）和泛化性（通过Rademacher复杂度）。
• 通过在权重上使用PGD攻击进行实证评估，比较不同扰动水平下模型的鲁棒性和泛化性。
• 通过消融研究分离损失函数中鲁棒性和泛化性正则化项的作用。
• 可视化权重分布，并对比标准模型与鲁棒模型的泛化界，以验证理论主张。

实验结果

研究问题

• RQ1 权重扰动如何影响前馈神经网络中成对分类边距的鲁棒性？
• RQ2 在权重扰动下，能否利用Rademacher复杂度推导出非平凡的泛化界？
• RQ3 训练期间对抗性权重扰动对模型泛化性和鲁棒性有何影响？
• RQ4 所提出的基于理论的损失函数在实践中与朴素的对抗性权重训练相比如何？
• RQ5 引入鲁棒性和泛化性正则化项是否能带来更紧致且非平凡的泛化界？

主要发现

• 所提损失函数产生的泛化界随训练集大小增加而减小，而标准模型的界则增长并趋于平凡。
• 使用所提损失函数训练的鲁棒模型在权重PGD攻击下，泛化界和测试误差均下降，表明鲁棒性得到提升。
• 消融研究证实，仅鲁棒性项即可对权重进行正则化，并在无显式泛化正则化时仍贡献于非平凡界。
• 在小权重扰动（ε=0.001）下，鲁棒模型达到80.3%的测试准确率，显著优于朴素对抗性权重训练（10%准确率）。
• 鲁棒模型的权重分布比标准模型更集中，表明实现了有效的权重正则化。
• 谱范数乘积与矩阵乘积范数的比值在不同模型和数据集大小下几乎保持恒定，表明具有稳定的缩放行为。