[논문 리뷰] On Fast Adversarial Robustness Adaptation in Model-Agnostic Meta-Learning

Ren Wang, Kaidi Xu외 5명|arXiv (Cornell University)|2021. 02. 20.

Adversarial Robustness in Machine Learning참고 문헌 45인용 수 17

한 줄 요약

이 논문은 적대적 방어성 강화를 위해 메타업데이트 단계에서 빠른 적대적 훈련을 적용하는 강건성 정규화 메타학습 프레임워크인 R-MAML을 제안한다. 이는 일반화 능력이나 계산 효율성에 손상을 주지 않으면서도 효율적이고 효과적인 강건성 적응을 가능하게 한다. 또한 비라벨 데이터를 활용한 대조적 학습을 도입하여 최신 기법 대비 9%의 정확도 향상과 1.9%의 강건성 정확도 향상을 달성한다.

ABSTRACT

Model-agnostic meta-learning (MAML) has emerged as one of the most successful meta-learning techniques in few-shot learning. It enables us to learn a meta-initialization} of model parameters (that we call meta-model) to rapidly adapt to new tasks using a small amount of labeled training data. Despite the generalization power of the meta-model, it remains elusive that how adversarial robustness can be maintained by MAML in few-shot learning. In addition to generalization, robustness is also desired for a meta-model to defend adversarial examples (attacks). Toward promoting adversarial robustness in MAML, we first study WHEN a robustness-promoting regularization should be incorporated, given the fact that MAML adopts a bi-level (fine-tuning vs. meta-update) learning procedure. We show that robustifying the meta-update stage is sufficient to make robustness adapted to the task-specific fine-tuning stage even if the latter uses a standard training protocol. We also make additional justification on the acquired robustness adaptation by peering into the interpretability of neurons' activation maps. Furthermore, we investigate HOW robust regularization can efficiently be designed in MAML. We propose a general but easily-optimized robustness-regularized meta-learning framework, which allows the use of unlabeled data augmentation, fast adversarial attack generation, and computationally-light fine-tuning. In particular, we for the first time show that the auxiliary contrastive learning task can enhance the adversarial robustness of MAML. Finally, extensive experiments are conducted to demonstrate the effectiveness of our proposed methods in robust few-shot learning.

연구 동기 및 목표

• 모델 무관 메타학습(MAML)에서 소수의 샘플 설정에서 적대적 방어성을 유지하는 데 도전하는 문제를 해결하기 위해.
• 이중 최적화 과정에서 적대적 정규화를 적용할 최적의 단계—메타업데이트 또는 피지테일링—를 규명하기 위해.
• 빠른 적대적 공격 생성, 비라벨 데이터 증강, 경량 피지테일링을 지원하는 효율적인 강건한 메타학습 프레임워크를 설계하기 위해.
• 비라벨 데이터를 활용한 대조적 학습이 MAML에서 강건성과 일반화 능력을 향상시키는 데 미치는 영향을 조사하기 위해.
• 뉴런 활성화 분석을 통해 강건성이 어떻게 습득되고 적응되는지에 대한 해석 가능성 통찰을 제공하기 위해.

제안 방법

• 방법은 내부 루프의 피지테일링 과정을 변경하지 않은 채, 빠른 일단계 PGD 공격을 활용하여 메타업데이트 단계에서만 적대적 정규화를 적용한다.
• 비라벨 데이터 증강과 계산 비용이 낮은 피지테일링을 지원하는 일반적인 강건성 정규화 메타학습 프레임워크를 도입하며, 분류기 헤드만 업데이트하는 데 집중한다.
• 청결한 표현 학습을 향상시켜 저자료 환경에서 청결 정확도와 강건 정확도를 모두 향상시키기 위해 새로운 보조 대조적 학습 작업을 통합한다.
• 메타업데이트 동안 TRADES와 적대적 훈련(AT) 정규화를 사용하며, 초모델은 그리드 서치를 통해 최적화한다.
• 뉴런 활성화 맵 분석을 통해 강건성 적응 메커니즘을 검증함으로써 해석 가능성을 평가한다.
• 논문은 ResNet18과 4층 컨볼루션 신경망을 사용하여 MiniImageNet, CIFAR-FS, Omniglot에서 1-shot 및 5-shot 5-way 분류 작업을 수행하여 평가한다.

실험 결과

연구 질문

• RQ1 MAML의 이중 최적화 과정에서—메타업데이트 또는 피지테일링—적대적 정규화를 적용할 최적의 단계는 무엇인가?
• RQ2 메타업데이트 단계에서 빠른 적대적 공격 생성을 통해 피지테일링 단계에서도 계산 비용 증가 없이 강건성이 유지될 수 있는가?
• RQ3 대조적 학습을 통해 비라벨 데이터를 통합할 경우, 저자료 환경에서 MAML의 적대적 방어성과 일반화 능력에 어떤 영향을 미치는가?
• RQ4 보조 대조적 학습이 뉴런 수준의 해석 가능성과 강건성 전이에 미치는 영향은 무엇인가?
• RQ5 제안된 프레임워크는 청결 정확도와 강건 정확도 측면에서 기존의 강건한 MAML 방법들을 초월할 수 있는가?

주요 결과

• R-MAML out-CL은 MiniImageNet에서 최신 기술인 적대적 쿼리링(AQ) 방법 대비 표준 정확도 9% 향상과 강건 정확도 1.9% 향상을 달성한다.
• CIFAR-FS에서 R-MAML out-CL은 1-shot 5-way 설정에서 AQ 방법 대비 표준 정확도 10% 향상과 강건 정확도 3% 향상을 기록한다.
• ResNet18을 사용한 MiniImageNet에서 비라벨 데이터를 활용한 대조적 학습은 AQ 방법 대비 표준 정확도 13.94% 향상과 강건 정확도 1.42% 향상을 이룬다.
• 메타업데이트 단계에서 확보한 강건성이 피지테일링 단계로 효과적으로 전이되며, 후자의 경우 표준 훈련을 사용하더라도 강건성이 유지됨을 보여주어 메타업데이트 정규화의 충분성을 입증한다.
• 뉴런 활성화 맵 분석을 통한 해석 가능성 평가 결과, 강건성이 메타업데이트 과정을 통해 효과적으로 습득되고 적응됨을 확인할 수 있다.
• 빠른 적대적 공격 생성과 부분적 모델 피지테일링(분류기 헤드만 업데이트)을 통해 계산 효율성을 유지함으로써, 이 프레임워크는 소수의 샘플 학습에 대해 확장 가능한 성능을 발휘한다.