[论文解读] Complement Objective Training

Haoyun Chen, Pei-Hsin Wang+6 more|arXiv (Cornell University)|Mar 4, 2019

Adversarial Robustness in Machine Learning被引用 15

一句话总结

本文提出互补目标训练（COT），一种新型训练范式，通过联合优化主目标（如交叉熵）和互补目标，后者可中和错误类别的预测概率，从而提升深度学习模型的准确率与鲁棒性。COT在FGSM白盒攻击下将分类错误率降低最多达10%，并在视觉与自然语言处理任务中展现出一致的性能提升。

ABSTRACT

Learning with a primary objective, such as softmax cross entropy for classification and sequence generation, has been the norm for training deep neural networks for years. Although being a widely-adopted approach, using cross entropy as the primary objective exploits mostly the information from the ground-truth class for maximizing data likelihood, and largely ignores information from the complement (incorrect) classes. We argue that, in addition to the primary objective, training also using a complement objective that leverages information from the complement classes can be effective in improving model performance. This motivates us to study a new training paradigm that maximizes the likelihood of the groundtruth class while neutralizing the probabilities of the complement classes. We conduct extensive experiments on multiple tasks ranging from computer vision to natural language understanding. The experimental results confirm that, compared to the conventional training with just one primary objective, training also with the complement objective further improves the performance of the state-of-the-art models across all tasks. In addition to the accuracy improvement, we also show that models trained with both primary and complement objectives are more robust to single-step adversarial attacks.

研究动机与目标

• 为解决标准训练过程中在优化时很大程度上忽略错误（互补）类别信息的局限性。
• 通过显式中和错误类别预测概率，提升模型的泛化能力与鲁棒性。
• 探究引入互补目标是否可使性能超越标准交叉熵训练。
• 评估COT训练模型在单步对抗攻击（如FGSM）下的鲁棒性。
• 探索互补目标在更广泛应用场景中的潜力，包括生成模型与密集预测任务。

提出的方法

• 提出互补熵作为新的互补目标，以中和错误类别的概率，确保其被抑制而不损害主目标。
• 引入联合优化框架，在训练过程中同时最小化主交叉熵损失与互补熵损失。
• 采用基于梯度的优化方法，同时计算并反向传播主目标与互补目标的梯度。
• 采用平衡的损失加权策略，确保主目标不被削弱，同时积极抑制互补类别。
• 使用t-SNE可视化模型嵌入，证明COT在表征空间中产生更紧密、更清晰分离的类别簇。
• 应用FGSM白盒攻击与迁移攻击以评估鲁棒性，在对抗样本生成中同时使用主目标与互补目标的梯度。

实验结果

研究问题

• RQ1 优化一个能中和错误类别概率的互补目标，是否可使模型准确率超越标准交叉熵训练？
• RQ2 COT是否通过学习表征中更紧密、更可分的类别簇，实现更好的泛化能力？
• RQ3 与标准模型相比，COT训练的模型在单步对抗攻击（如FGSM）下是否更具鲁棒性？
• RQ4 引入互补梯度是否会影响基于迁移的对抗攻击的成功率？
• RQ5 COT框架能否扩展至其他架构与任务，如目标检测、语义分割或生成模型？

主要发现

• 在多个任务中，包括计算机视觉与自然语言理解，COT训练的模型均实现显著的准确率提升。
• 在CIFAR-10上，COT在FGSM白盒攻击下将分类错误率降低最多达9.51个百分点（例如，PreAct ResNet-18从65.60%降至56.17%）。
• COT模型在迁移攻击下也表现出更强鲁棒性，错误率降低最多达6.58个百分点（例如，ResNeXt-29从70.24%降至61.55%）。
• t-SNE可视化证实，COT产生更紧密、更清晰分离的类别簇，表明特征表征与泛化能力得到改善。
• 互补目标通过引入可抵消主目标驱动扰动的梯度，有助于防御对抗攻击。
• COT在多种架构中持续提升性能，包括ResNet-110、WideResNet-28-10与DenseNet-BC-121，展现出广泛的适用性。