[论文解读] Ensemble Robustness and Generalization of Stochastic Deep Learning Algorithms

Tom Zahavy, Bingyi Kang+4 more|arXiv (Cornell University)|Feb 7, 2016

Adversarial Robustness in Machine Learning参考文献 24被引用 10

一句话总结

本文提出了一种新的理论框架——集成鲁棒性，用以解释随机深度学习算法的泛化性能。该文证明，若学习算法对对抗性扰动的平均敏感度有界，则其泛化性能良好，并通过七种深度学习算法的模拟实验验证了该理论，结果表明集成鲁棒性更高的方法在MNIST数据集上取得了更低的测试误差。

ABSTRACT

The question why deep learning algorithms generalize so well has attracted increasing research interest. However, most of the well-established approaches, such as hypothesis capacity, stability or sparseness, have not provided complete explanations (Zhang et al., 2016; Kawaguchi et al., 2017). In this work, we focus on the robustness approach (Xu & Mannor, 2012), i.e., if the error of a hypothesis will not change much due to perturbations of its training examples, then it will also generalize well. As most deep learning algorithms are stochastic (e.g., Stochastic Gradient Descent, Dropout, and Bayes-by-backprop), we revisit the robustness arguments of Xu & Mannor, and introduce a new approach, ensemble robustness, that concerns the robustness of a population of hypotheses. Through the lens of ensemble robustness, we reveal that a stochastic learning algorithm can generalize well as long as its sensitiveness to adversarial perturbations is bounded in average over training examples. Moreover, an algorithm may be sensitive to some adversarial examples (Goodfellow et al., 2015) but still generalize well. To support our claims, we provide extensive simulations for different deep learning algorithms and different network architectures exhibiting a strong correlation between ensemble robustness and the ability to generalize.

研究动机与目标

• 为解决尽管深度学习算法具有高复杂度和随机性，但其泛化性能仍良好的理论理解不足的问题。
• 将确定性深度学习算法中的鲁棒性-泛化关联关系扩展至随机深度学习算法。
• 提出一种新表征——集成鲁棒性，以捕捉随机算法所产生的整个假设分布的鲁棒性。
• 通过实证验证，集成鲁棒性能有效预测多种深度学习架构与算法的泛化性能。

提出的方法

• 将集成鲁棒性定义为从随机学习算法中采样得到的假设对训练数据上对抗性扰动的平均敏感度。
• 理论上证明：有界的平均敏感度（即集成鲁棒性）意味着高概率下的泛化性能（定理1）。
• 使用一阶泰勒近似高效估计对抗性样本：$\Delta s_i \in \arg\max_{\|\Delta s_i\| \leq r} \ell(s_i) + \langle \nabla\ell_{s_i}(s), \Delta s_i \rangle$。
• 通过10次随机运行的平均损失差计算经验集成鲁棒性：$\bar{\epsilon}_{\text{emp}} = \frac{1}{T} \sum_{t=1}^T \max_i |\ell(\mathcal{A}^{(t)}_{\mathbf{s}}, s_i) - \ell(\mathcal{A}^{(t)}_{\mathbf{s}}, s_i + \Delta s_i)|$。
• 在MNIST数据集上，对三种网络架构中的七种算法（SGD、Dropout、对抗训练变体）进行评估。
• 将经验集成鲁棒性与测试误差进行比较，以验证所提出的理论。

实验结果

研究问题

• RQ1 集成鲁棒性能否作为随机深度学习算法泛化性能的可靠预测指标？
• RQ2 假设对对抗性扰动的平均敏感度与深度神经网络中的泛化性能有何关系？
• RQ3 为何某些算法（如对抗训练和Dropout）泛化性能良好？集成鲁棒性能否解释其成功？
• RQ4 经验集成鲁棒性能在多大程度上可用于比较和排序不同深度学习算法的泛化性能？

主要发现

• 对抗训练方法（如$\ell_\infty$、$\ell_2$、$\ell_1$）在所有网络架构中，其经验集成鲁棒性（$\bar{\epsilon}$）均显著低于原始SGD和Dropout。
• $\ell_\infty$对抗训练方法在Network-I上实现了最低的测试误差（0.65%），其次为$\ell_2$（0.66%）和$\ell_1$（0.67%），与它们最低的$\bar{\epsilon}$值一致。
• 基于Dropout的方法（SGD+Dropout与PS+Dropout）在Network-III上表现出更低的测试误差（分别为1.08%和1.89%）和更低的$\bar{\epsilon}$，支持了通过集成鲁棒性解释其优势的合理性。
• 经验集成鲁棒性度量与测试性能具有强相关性：在所有网络类型和扰动幅度下，$\bar{\epsilon}$越低，测试误差越低。
• 结果在实证上验证了定理1：对扰动具有有界平均敏感度的随机算法，其泛化性能良好，表现为测试误差低且$\bar{\epsilon}$小。
• 集成鲁棒性可解释Dropout的成功：通过生成多样化且鲁棒的假设群体，降低了对输入扰动的平均敏感度，从而实现更好的泛化。