[论文解读] On Fast Adversarial Robustness Adaptation in Model-Agnostic Meta-Learning

Ren Wang, Kaidi Xu+5 more|arXiv (Cornell University)|Feb 20, 2021

Adversarial Robustness in Machine Learning参考文献 45被引用 17

一句话总结

该论文提出了一种鲁棒性正则化元学习框架 R-MAML，通过在元更新阶段应用快速对抗训练，增强了少样本学习中的对抗鲁棒性，实现了高效且有效的鲁棒性适应，同时不损害泛化能力或计算效率。此外，该方法引入了使用无标签数据的对比学习，相较于最先进方法，准确率提升9%，鲁棒准确率提升1.9%。

ABSTRACT

Model-agnostic meta-learning (MAML) has emerged as one of the most successful meta-learning techniques in few-shot learning. It enables us to learn a meta-initialization} of model parameters (that we call meta-model) to rapidly adapt to new tasks using a small amount of labeled training data. Despite the generalization power of the meta-model, it remains elusive that how adversarial robustness can be maintained by MAML in few-shot learning. In addition to generalization, robustness is also desired for a meta-model to defend adversarial examples (attacks). Toward promoting adversarial robustness in MAML, we first study WHEN a robustness-promoting regularization should be incorporated, given the fact that MAML adopts a bi-level (fine-tuning vs. meta-update) learning procedure. We show that robustifying the meta-update stage is sufficient to make robustness adapted to the task-specific fine-tuning stage even if the latter uses a standard training protocol. We also make additional justification on the acquired robustness adaptation by peering into the interpretability of neurons' activation maps. Furthermore, we investigate HOW robust regularization can efficiently be designed in MAML. We propose a general but easily-optimized robustness-regularized meta-learning framework, which allows the use of unlabeled data augmentation, fast adversarial attack generation, and computationally-light fine-tuning. In particular, we for the first time show that the auxiliary contrastive learning task can enhance the adversarial robustness of MAML. Finally, extensive experiments are conducted to demonstrate the effectiveness of our proposed methods in robust few-shot learning.

研究动机与目标

• 为解决在少样本学习设置下，模型无关元学习（MAML）中保持对抗鲁棒性的挑战。
• 确定在 MAML 的双层优化过程中，对抗正则化应应用于元更新阶段还是微调阶段最为合适。
• 设计一种高效的鲁棒元学习框架，支持快速对抗攻击生成、无标签数据增强以及轻量级微调。
• 研究使用无标签数据的对比学习在提升 MAML 中鲁棒性与泛化能力方面的作用。
• 提供对鲁棒性如何通过神经元激活分析获得与适应的可解释性见解。

提出的方法

• 该方法仅在元更新阶段应用对抗正则化，利用快速一步 PGD 攻击提升鲁棒性，同时不改变内层微调过程。
• 提出一种通用的鲁棒性正则化元学习框架，支持无标签数据增强和计算轻量的微调，重点仅更新分类器头。
• 引入一种新颖的辅助对比学习任务，以增强表示学习，在低数据环境下同时提升干净准确率与鲁棒准确率。
• 在元更新过程中使用 TRADES 和对抗训练（AT）正则化，超参数通过网格搜索调优。
• 通过神经元激活图分析评估可解释性，以验证鲁棒性适应机制的有效性。
• 在 MiniImageNet、CIFAR-FS 和 Omniglot 上进行评估，采用 ResNet18 和四层 CNN 模型，任务为 1-shot 和 5-shot 5-way 分类。

实验结果

研究问题

• RQ1 在 MAML 的双层优化过程中，对抗正则化应在元更新阶段还是微调阶段应用，才能实现有效的鲁棒性适应？
• RQ2 在元更新阶段进行快速对抗攻击生成，是否能在不增加计算成本的前提下，维持微调阶段的鲁棒性？
• RQ3 通过对比学习引入无标签数据，在低数据环境下对 MAML 的对抗鲁棒性与泛化能力有何影响？
• RQ4 辅助对比学习对神经元层面的可解释性以及元学习中的鲁棒性迁移有何影响？
• RQ5 所提出的框架是否能在干净准确率与鲁棒准确率两方面均优于现有的鲁棒 MAML 方法？

主要发现

• 在 MiniImageNet 上，R-MAML out -CL 相较于最先进方法对抗查询（AQ）方法，标准准确率提升 9%，鲁棒准确率提升 1.9%。
• 在 CIFAR-FS 上，R-MAML out -CL 在 1-shot 5-way 设置下，标准准确率提升 10%，鲁棒准确率提升 3%。
• 在 MiniImageNet 上使用 ResNet18 时，结合无标签数据的对比学习使标准准确率提升 13.94%，鲁棒准确率提升 1.42%。
• 在元更新阶段获得的鲁棒性可有效传递至微调阶段，即使后者使用标准训练，也表明元更新正则化已足够。
• 神经元激活图的可解释性分析证实，鲁棒性通过元更新过程被有效学习与适应。
• 该框架通过支持快速对抗攻击生成和部分模型微调（仅分类器头），保持了计算效率，使其适用于少样本学习场景。