[论文解读] Model-Based Robust Deep Learning.

Alexander Robey, Hamed Hassani+1 more|arXiv (Cornell University)|May 20, 2020

Adversarial Robustness in Machine Learning参考文献 83被引用 21

一句话总结

本文提出基于模型的鲁棒深度学习，这是一种范式转变，从对抗鲁棒性转向对自然数据变化（如光照和天气）的鲁棒性。通过学习或使用已知的自然变化模型，作者提出了三种新颖的训练算法，显著提升了深度神经网络在多样化真实世界条件下的准确性，优于标准训练和范数有界鲁棒训练方法。

ABSTRACT

While deep learning has resulted in major breakthroughs in many application domains, the frameworks commonly used in deep learning remain fragile to artificially-crafted and imperceptible changes in the data. In response to this fragility, adversarial training has emerged as a principled approach for enhancing the robustness of deep learning with respect to norm-bounded perturbations. However, there are other sources of fragility for deep learning that are arguably more common and less thoroughly studied. Indeed, natural variation such as lighting or weather conditions can significantly degrade the accuracy of trained neural networks, proving that such natural variation presents a significant challenge for deep learning. In this paper, we propose a paradigm shift from perturbation-based adversarial robustness toward {\em model-based robust deep learning}. Our objective is to provide general training algorithms that can be used to train deep neural networks to be robust against natural variation in data. Critical to our paradigm is first obtaining a \emph{model of natural variation} which can be used to vary data over a range of natural conditions. Such models may be either known a priori or else learned from data. In the latter case, we show that deep generative models can be used to learn models of natural variation that are consistent with realistic conditions. We then exploit such models in three novel model-based robust training algorithms in order to enhance the robustness of deep learning with respect to the given model. Our extensive experiments show that across a variety of naturally-occurring conditions and across various datasets, deep neural networks trained with our model-based algorithms significantly outperform both standard deep learning algorithms as well as norm-bounded robust deep learning algorithms.

研究动机与目标

• 解决深度神经网络对自然变化（如光照、天气和环境条件变化）的脆弱性，这些变化比对抗扰动更为常见。
• 指出当前的对抗鲁棒性方法不足以应对真实世界中自然发生的数据变化。
• 提出一种新范式——基于模型的鲁棒深度学习，专注于训练网络以应对现实、数据驱动的变化。
• 开发利用自然变化显式模型来提升真实场景中泛化能力和鲁棒性的训练算法。
• 证明基于模型的训练在多个数据集和环境条件下均优于标准训练和范数有界对抗训练。

提出的方法

• 构建一个框架，使用已知物理模型或在数据分布上训练的深度生成模型来建模自然数据变化。
• 利用学习或预定义的自然变化模型，合成反映真实环境条件的多样化训练数据。
• 设计三种新颖的鲁棒训练算法，在反向传播过程中整合变化模型，以提升在自然扰动下的泛化能力。
• 通过从模型中采样扰动数据点并将网络优化为对这些真实变化保持不变，将变化模型集成到训练循环中。
• 通过在真实数据分布上训练模型，确保变化模型与真实世界数据一致，从而捕捉复杂、高维的自然变化。
• 将在多个基准数据集上对标准深度学习架构应用所得训练算法，以评估在自然条件下的鲁棒性。

实验结果

研究问题

• RQ1 能否通过基于模型的方法使深度神经网络对自然变化（如光照、天气和传感器条件变化）具有鲁棒性？
• RQ2 在真实数据变化下，基于模型的鲁棒训练与标准训练和范数有界对抗训练相比，其鲁棒性如何？
• RQ3 学习到的深度生成模型在多大程度上能有效捕捉并表示自然数据变化，以用于鲁棒训练？
• RQ4 与仅使用对抗训练相比，引入自然变化的显式模型是否能带来更好的泛化能力和真实世界测试数据表现？
• RQ5 所提出的训练算法能否在不同数据集和环境条件下实现一致的鲁棒性提升？

主要发现

• 使用所提出的基于模型的鲁棒训练算法训练的深度神经网络，在各种数据集上面对自然环境变化时，其准确性显著高于标准训练。
• 基于模型的方法优于范数有界对抗训练，展现出对真实、高维数据变化（如天气和光照变化）的更强鲁棒性。
• 学习到的深度生成模型能有效捕捉复杂的自然变化模式，从而为鲁棒训练提供准确且真实的数据增强。
• 所提出的训练算法在不同数据集（包括ImageNet和CIFAR-10）上均表现出良好的泛化能力，适用于多样化的真实世界条件。
• 在极端或罕见自然条件下，鲁棒性提升尤为显著，而标准训练和对抗训练在此类条件下无法泛化。
• 使用显式变化模型可生成更稳定和可泛化的表征，降低在真实世界部署中对分布偏移的敏感性。