[논문 리뷰] Adversarial Meta-Learning

Chengxiang Yin, Jian Tang외 2명|arXiv (Cornell University)|2018. 06. 08.

Domain Adaptation and Few-Shot Learning참고 문헌 27인용 수 30

한 줄 요약

이 논문은 정제된 샘플과 적대적 샘플을 동시에 사용하여 모델 초기화를 공동 최적화하는 적대적 미들러닝 프레임워크인 ADML을 제안한다. ADML은 적대적 편향이 큰 상황에서도 MAML 및 기타 미들러너보다 뛰어난 강건성과 정확도를 달성하며, 정제된 데이터에서도 뛰어난 성능을 유지한다.

ABSTRACT

Meta-learning enables a model to learn from very limited data to undertake a new task. In this paper, we study the general meta-learning with adversarial samples. We present a meta-learning algorithm, ADML (ADversarial Meta-Learner), which leverages clean and adversarial samples to optimize the initialization of a learning model in an adversarial manner. ADML leads to the following desirable properties: 1) it turns out to be very effective even in the cases with only clean samples; 2) it is robust to adversarial samples, i.e., unlike other meta-learning algorithms, it only leads to a minor performance degradation when there are adversarial samples; 3) it sheds light on tackling the cases with limited and even contaminated samples. It has been shown by extensive experimental results that ADML consistently outperforms three representative meta-learning algorithms in the cases involving adversarial samples, on two widely-used image datasets, MiniImageNet and CIFAR100, in terms of both accuracy and robustness.

연구 동기 및 목표

• 소수의 샘플 학습 환경에서 기존의 미들러닝 알고리즘이 적대적 샘플에 취약한 문제를 해결하기 위해.
• 정제된 데이터와 적대적 데이터 조건에서 모두 높은 성능을 유지할 수 있는 미들러너를 개발하기 위해.
• 적대적 샘플을 미들러닝 중 훈련 시 정규화 신호로 사용할 수 있는지 탐색하기 위해.
• 제한되거나 오염된 데이터가 있는 실세계 환경에서의 소수의 샘플 학습을 위한 해결책을 제공하기 위해.

제안 방법

• ADML은 내부 기울기 갱신과 메타 갱신 간에 적대적인 '격투'를 통해 모델 초기화를 정교화하는 이중 최적화 과정을 사용한다.
• 미들러닝 훈련 중 정제된 샘플과 적대적 샘플을 모두 활용하여 강건한 초기 파라미터 분포를 학습한다.
• 모델에 종속적이지 않으며, 기울기 하강법으로 훈련되는 임의의 미분 가능한 모델과 호환된다.
• 모델이 새로운 작업에 대해 적대적 입력이 있더라도 신속하고 신뢰성 있게 적응할 수 있도록, 초기 파라미터를 최적화하기 위해 최소-최대 제약을 사용한다.
• 표준 미들러닝 손실과 적대적 편향 제약을 결합하여 강건성을 향상시키는 훈련 목표를 설정한다.
• 표준 소수의 샘플 벤치마크, 즉 MiniImageNet과 CIFAR100을 사용하여 다양한 수준의 적대적 노이즈 하에서 프레임워크를 평가한다.

실험 결과

연구 질문

• RQ1 정제된 데이터 성능을 희생시키지 않고도 미들러닝 모델을 적대적 샘플에 대해 강건하게 만들 수 있는가?
• RQ2 정제된 샘플과 적대적 샘플을 함께 최적화함으로써 미들러너의 일반화 능력은 어떻게 향상되는가?
• RQ3 미들러닝 중에 적대적 훈련을 수행하면 표준 미들러닝이나 적대적 피니팅보다 더 나은 초기화가 이루어지는가?
• RQ4 학습 데이터에 적대적 예시가 포함되어 있을 경우 ADML은 얼마나 높은 성능을 유지하는가?

주요 결과

• ADML은 MiniImageNet과 CIFAR100에서 모든 테스트 설정에서 MAML, 매칭 네트워크, 관계 네트워크보다 정확도와 강건성 면에서 뛰어난 성능을 보였다.
• 적대적 편향이 ε=0.2에서 ε=2로 증가함에 따라 MAML의 성능은 최대 13.50% 감소했지만, ADML은 미미한 감소만 보였다.
• ε=2일 때 5-way 1-shot 학습에서 ADML은 MiniImageNet에서 상위-1 정확도 59.38%를 달성했으며, 이는 1-shot 학습 대비 17.96% 향상된 결과였다.
• ADML의 손실은 몇 차례 기울기 갱신 내에 급격히 감소하고 MAML 및 MAML-AD보다 낮은 값으로 안정화되어 더 빠르고 안정적인 적응을 나타냈다.
• 학습 데이터에 적대적 샘플이 포함되어 있어도 높은 성능을 유지하여 데이터 오염에 대한 강력한 저항성을 보였다.
• 정제된 데이터에서도 성능 저하가 최소한이었으며, 적대적 예외가 없을 경우에도 효과적이라는 점을 입증했다.