[论文解读] Learning with Bad Training Data via Iterative Trimmed Loss Minimization

Yanyao Shen, Sujay Sanghavi|arXiv (Cornell University)|Oct 28, 2018

Adversarial Robustness in Machine Learning参考文献 34被引用 62

一句话总结

该论文提出 Iterative Trimmed Loss Minimization (ITLM)，一种反复选择低损失训练样本并在它们上重新训练以在数据受污染的情况下学习的方法，对广义线性模型提供理论保证，并在嘈杂标签、坏图像和后门攻击等方面具有强大的实证结果。

ABSTRACT

In this paper, we study a simple and generic framework to tackle the problem of learning model parameters when a fraction of the training samples are corrupted. We first make a simple observation: in a variety of such settings, the evolution of training accuracy (as a function of training epochs) is different for clean and bad samples. Based on this we propose to iteratively minimize the trimmed loss, by alternating between (a) selecting samples with lowest current loss, and (b) retraining a model on only these samples. We prove that this process recovers the ground truth (with linear convergence rate) in generalized linear models with standard statistical assumptions. Experimentally, we demonstrate its effectiveness in three settings: (a) deep image classifiers with errors only in labels, (b) generative adversarial networks with bad training images, and (c) deep image classifiers with adversarial (image, label) pairs (i.e., backdoor attacks). For the well-studied setting of random label noise, our algorithm achieves state-of-the-art performance without having access to any a-priori guaranteed clean samples.

研究动机与目标

• 在不了解错误类型的前提下，推动一种单一、通用的从被污染数据中学习的方法。
• 证明干净样本在早期训练损失通常低于被污染样本。
• 开发并分析一种在样本筛选与模型拟合之间交替的迭代算法。
• 展示该方法在分类、GANs 和后门防御任务中的有效性。
• 在各种污染下为广义线性模型建立理论收敛性保证。

提出的方法

• 定义修剪损失目标并表明它可以通过交替选择当前损失最小的大小为 ⌊αn⌋ 的子集并在该子集上更新模型来迭代优化。
• 将 ITLM 描述为一个迭代过程：在每一轮 t 下，选择在 θ_t 下损失最小的样本子集 S_t，然后通过对 S_t 进行标准训练步骤来更新 θ_{t+1}。
• 将 BatchSGD 作为模型更新例程，具有可配置的步数 M、批量大小 N 和学习率 η。
• 给出理论分析，在带有污染输出的广义线性模型下展示每轮收敛界限。
• 将分析扩展到非线性单调连接函数和混合数据情形，给出线性或近线性收敛的条件。

实验结果

研究问题

• RQ1 当部分训练样本被污染时，单一通用的迭代框架是否能恢复真实模型？
• RQ2 在广义线性和非线性模型中，ITLM 在任意、随机或混合污染下的收敛保证是什么？
• RQ3 与最先进方法相比，ITLM 在深度网络面对带噪标签、坏图像或后门攻击时的经验表现如何？
• RQ4 早停和对干净样本比例 α 的错误设定是否会影响 ITLM 在各任务中的效果？
• RQ5 ITLM 是否能够在训练中通过筛选被污染样本来防御后门攻击？

主要发现

• 在标准假设下，ITLM 在带有多种污染类型的广义线性模型中至少线性收敛到真实值。
• 在深度学习情境中，ITLM 在 CIFAR-10 和 MNIST 上相对于简单训练，在随机与系统性标签噪声下提高了准确率，且无需先验的干净样本。
• 在混合数据上训练时，ITLM 提供更强的 GAN 训练性能，逐步将生成器聚焦于接近干净样本的样本。
• 在各种后门攻击情景中，ITLM 大幅减少被对抗性注入的样本，并且在污染测试集上将第二任务的准确率降至接近零，同时在干净数据上保持正常准确率。
• 理论结果显示在任意或随机污染下每轮误差收缩，在混合模型情景下呈现近线性收 converge，在 α 接近 1 时，在干净数据设置下可保持一致性恢复。