[论文解读] Calibration and Consistency of Adversarial Surrogate Losses

Pranjal Awasthi, Natalie S. Frank+3 more|arXiv (Cornell University)|Apr 19, 2021

Adversarial Robustness in Machine Learning参考文献 34被引用 6

一句话总结

本文对鲁棒机器学习中对抗性代理损失的校准性和一致性进行了严格的理论分析。证明了标准凸代理损失在广义线性模型和单层神经网络等重要模型中并非${\mathscr{H}}$-校准的，且进一步表明${\mathscr{H}}$-校准不足以保证${\mathscr{H}}$-一致性；事实上，在无分布假设的前提下，任何连续的代理损失在对抗性设置下均不具有一致性。作者识别了特定代理损失实现${\mathscr{H}}$-一致性的条件，并通过实证方法验证了其发现。

ABSTRACT

Adversarial robustness is an increasingly critical property of classifiers in applications. The design of robust algorithms relies on surrogate losses since the optimization of the adversarial loss with most hypothesis sets is NP-hard. But which surrogate losses should be used and when do they benefit from theoretical guarantees? We present an extensive study of this question, including a detailed analysis of the H-calibration and H-consistency of adversarial surrogate losses. We show that, under some general assumptions, convex loss functions, or the supremum-based convex losses often used in applications, are not H-calibrated for important hypothesis sets such as generalized linear models or one-layer neural networks. We then give a characterization of H-calibration and prove that some surrogate losses are indeed H-calibrated for the adversarial loss, with these hypothesis sets. Next, we show that H-calibration is not sufficient to guarantee consistency and prove that, in the absence of any distributional assumption, no continuous surrogate loss is consistent in the adversarial setting. This, in particular, proves that a claim presented in a COLT 2020 publication is inaccurate. (Calibration results there are correct modulo subtle definition differences, but the consistency claim does not hold.) Next, we identify natural conditions under which some surrogate losses that we describe in detail are H-consistent for hypothesis sets such as generalized linear models and one-layer neural networks. We also report a series of empirical results with simulated data, which show that many H-calibrated surrogate losses are indeed not H-consistent, and validate our theoretical assumptions.

研究动机与目标

• 为解决对抗性鲁棒学习中理论保证的缺乏，特别是训练鲁棒分类器时代理损失的选择问题。
• 研究在广义线性模型和单层神经网络等假设集合中，常用凸代理损失在对抗性鲁棒性方面是否具有理论合理性。
• 澄清在标准一致性理论不适用的对抗性设置中，${\mathscr{H}}$-校准与${\mathscr{H}}$-一致性之间的区别。
• 纠正先前工作（COLT 2020）中的错误主张，证明在对抗性设置中${\mathscr{H}}$-校准并不蕴含${\mathscr{H}}$-一致性。
• 识别在何种自然分布和结构条件下，某些代理损失可实现关键假设类别的${\mathscr{H}}$-一致性。

提出的方法

• 作者在对抗性损失的背景下引入并形式化了${\mathscr{H}}$-校准与${\mathscr{H}}$-一致性的概念，将标准定义扩展以考虑局部邻域行为。
• 他们分析了对抗性损失不仅依赖于$f({\mathbf{x}})$，还依赖于${\mathbf{x}}$邻域内$f$的行为，这使得标准一致性论证失效。
• 利用测度论工具，他们证明在无分布假设的前提下，任何连续的代理损失在对抗性设置下均不具${\mathscr{H}}$-一致性，确立了根本性的理论障碍。
• 他们推导了对抗性损失${\mathscr{H}}$-校准的表征，并表明许多标准凸损失在关键假设集合中不满足该条件。
• 他们识别出充分条件——如数据分布中的特定结构和损失几何——使得某些代理损失可实现${\mathscr{H}}$-一致性。
• 他们通过在模拟数据上的实证实验验证了其理论，表明${\mathscr{H}}$-校准的损失仍可能不具备${\mathscr{H}}$-一致性。

实验结果

研究问题

• RQ1 在广义线性模型和单层神经网络中，常用凸代理损失是否对对抗性鲁棒性具有${\mathscr{H}}$-校准性？
• RQ2 在对抗性设置中，${\mathscr{H}}$-校准是否如标准分类中那样蕴含${\mathscr{H}}$-一致性？
• RQ3 在无额外分布假设的前提下，是否存在任何连续代理损失可实现${\mathscr{H}}$-一致性于对抗性学习？
• RQ4 何种结构或分布条件可使代理损失在对抗性设置中实现${\mathscr{H}}$-一致性？
• RQ5 COLT 2020年论文中关于对抗性代理一致性理论主张是否正确，还是其推理存在缺陷？

主要发现

• 在一般假设下，凸代理损失（包括基于上确界的凸损失）对广义线性模型或单层神经网络并非${\mathscr{H}}$-校准的。
• ${\mathscr{H}}$-校准在对抗性设置中不足以保证${\mathscr{H}}$-一致性；这两个概念是独立且不同的。
• 在无分布假设的前提下，任何连续代理损失在对抗性学习中均不具${\mathscr{H}}$-一致性，确立了根本性的理论限制。
• COLT 2020年论文中关于${\mathscr{H}}$-一致性的主张是错误的，尽管其校准性结果在细微定义差异下仍成立。
• 在自然条件下——如特定的数据分布结构和损失几何——某些代理损失可实现广义线性模型和单层神经网络的${\mathscr{H}}$-一致性。
• 在模拟数据上的实证结果证实，许多${\mathscr{H}}$-校准的代理损失并不具备${\mathscr{H}}$-一致性，验证了理论假设与发现。