[论文解读] Adversarial Regression with Multiple Learners

Liang Tong, Sixie Yu+2 more|arXiv (Cornell University)|Jun 6, 2018

Adversarial Robustness in Machine Learning参考文献 13被引用 10

一句话总结

本文提出了一种多学习者斯塔克尔贝格博弈（Multi-Learner Stackelberg Game, MLSG）框架，用于对抗性线性回归，其中多个学习者联合训练模型，并面临一个单一攻击者，该攻击者构造一种通用扰动以逃避所有模型。通过推导学习者损失函数的上界，作者证明该博弈具有唯一的对称均衡，可通过凸优化求解，并通过实验表明，MLSG 模型在对抗性攻击下显著优于 Ridge 和 Lasso 等正则化基线模型。

ABSTRACT

Despite the considerable success enjoyed by machine learning techniques in practice, numerous studies demonstrated that many approaches are vulnerable to attacks. An important class of such attacks involves adversaries changing features at test time to cause incorrect predictions. Previous investigations of this problem pit a single learner against an adversary. However, in many situations an adversary's decision is aimed at a collection of learners, rather than specifically targeted at each independently. We study the problem of adversarial linear regression with multiple learners. We approximate the resulting game by exhibiting an upper bound on learner loss functions, and show that the resulting game has a unique symmetric equilibrium. We present an algorithm for computing this equilibrium, and show through extensive experiments that equilibrium models are significantly more robust than conventional regularized linear regression.

研究动机与目标

• 建模单一攻击者同时针对多个学习者的对抗性回归场景，而非单个模型。
• 将多个学习者与单一攻击者之间的互动形式化为具有两阶段决策的多学习者斯塔克尔贝格博弈（MLSG）。
• 推导学习者损失函数的上界，以简化博弈论分析并确保可计算性。
• 证明近似博弈中存在唯一对称均衡，从而实现高效计算。
• 通过实证验证，均衡模型在对抗性特征扰动下比标准正则化回归更具鲁棒性。

提出的方法

• 将问题建模为多学习者斯塔克尔贝格博弈（MLSG），其中学习者作为领导者首先选择模型，攻击者作为跟随者选择测试时特征的通用扰动。
• 将每个学习者的期望代价函数定义为在良性数据分布（$\mathcal{D}$）和恶意数据分布（$\mathcal{D}'$）上的损失加权和，其中 $\beta$ 表示对抗性数据的概率。
• 通过将攻击者的扰动建模为特征向量的最坏情况偏移，参数化为 $\mathbf{z}$ 和 $\lambda$，推导学习者损失函数的上界。
• 证明上界博弈具有唯一的对称均衡，该均衡对应于可通过标准方法求解的凸优化问题。
• 将均衡计算形式化为一个凸优化问题，涉及 $\ell_2$-正则化回归，并包含来自对抗性扰动上界导出的约束。
• 使用基于推导上界的经验风险最小化方法训练对通用对抗性攻击鲁棒的模型，即使在 $\lambda$、$\beta$ 和 $\mathbf{z}$ 的估计存在误差时亦成立。

实验结果

研究问题

• RQ1 博弈论框架能否建模多个学习者同时被单一攻击者针对的对抗性回归？
• RQ2 对学习者损失函数的上界是否能导致一个可计算且行为良好的博弈，具有唯一均衡？
• RQ3 近似博弈的对称均衡是否可通过凸优化求解，且是否能产生鲁棒模型？
• RQ4 在对抗性攻击下，均衡模型的鲁棒性与标准正则化回归（如 Ridge、Lasso）相比如何？
• RQ5 在实践中，对对抗性参数（$\lambda$、$\beta$、$\mathbf{z}$）的高估是否能提升鲁棒性？

主要发现

• 多学习者斯塔克尔贝格博弈（MLSG）框架建模了一个现实的对抗性场景，即单一攻击者使用通用扰动同时针对多个学习者。
• 对学习者损失的推导上界导致一个具有唯一对称均衡的博弈，该均衡可通过凸优化求解。
• 均衡模型在理论上等价于一个鲁棒优化问题，为其鲁棒性提供了形式化依据。
• 在 Boston 和 PDF 数据集上的实验表明，MLSG 在对抗性攻击下的 RMSE 持续优于 Ridge、Lasso 和 OLS，尤其当 $\beta$ 较高时表现更优。
• 对对抗性参数（$\lambda$、$\beta$、$\mathbf{z}$）的高估导致比低估更鲁棒的模型，证实了保守估计的优势。
• 即使正则化参数被误估计，MLSG 模型仍显著低于基线方法的误差，表现出实际鲁棒性。