[논문 리뷰] A Simple Approach to Adversarial Robustness in Few-shot Image Classification

Akshayvarun Subramanya, Hamed Pirsiavash|arXiv (Cornell University)|2022. 04. 11.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

이 논문은 대규모 데이터셋에서 기초 모델을 적대적 훈련한 후, 새로운 소수의 클래스에 대해 校정된 최근접 중심 분류기를 사용하는 간단하고 확장 가능한 방법을 제안한다. 이 방법은 최소한의 계산 오버헤드로 표준 벤치마크에서 최신의 메타학습 기반 방법을 능가하며, 검증 가능한 강건성 기법과의 통합도 가능하게 한다.

ABSTRACT

Few-shot image classification, where the goal is to generalize to tasks with limited labeled data, has seen great progress over the years. However, the classifiers are vulnerable to adversarial examples, posing a question regarding their generalization capabilities. Recent works have tried to combine meta-learning approaches with adversarial training to improve the robustness of few-shot classifiers. We show that a simple transfer-learning based approach can be used to train adversarially robust few-shot classifiers. We also present a method for novel classification task based on calibrating the centroid of the few-shot category towards the base classes. We show that standard adversarial training on base categories along with calibrated centroid-based classifier in the novel categories, outperforms or is on-par with state-of-the-art advanced methods on standard benchmarks for few-shot learning. Our method is simple, easy to scale, and with little effort can lead to robust few-shot classifiers. Code is available here: \url{https://github.com/UCDvision/Simple_few_shot.git}

연구 동기 및 목표

• 낮은 데이터 환경에서 소수의 이미지 분류기의 적대적 예외에 대한 취약성을 해결하기 위해.
• 복잡한 메타학습 없이 최소한의 계산 비용으로 강건한 일반화를 달성하는 방법을 개발하기 위해.
• 표준 훈련 파라다임과의 호환성을 통해 고급 강건성 기법(예: 검증 가능한 강건성)을 소수의 학습에 적용할 수 있도록 하기 위해.
• 표준 미니배치 적대적 훈련이 복잡한 에피소드 기반 메타학습이 필요 없이 강건한 소수의 일반화를 달성하는 데 충분하다는 것을 입증하기 위해.

제안 방법

• 표준 미니배치 적대적 훈련을 사용하여 대규모 청소된 기초 데이터셋에서 특징 추출기와 선형 분류기를 훈련한다.
• 기초 훈련 후 특징 추출기를 고정하고, 이를 새로운 소수의 지원 세트를 임bedding하기 위해 사용한다.
• 기초 분류기 m개의 카테고리에서 유도된 중심점을 사용하여 신규 클래스의 예측을 보정하는 校정된 최근접 중심(CNC) 분류기를 적용한다.
• 신규 클래스 중심점을 기초 카테고리에서 가장 가까운 m개의 중심점과 평균하여 보정함으로써 일반화와 강건성을 향상시킨다.
• 기존 표준 모델과 동일한 백본과 훈련 설정을 사용하므로, 기존의 강건성 기법과의 직관적 통합이 가능하다.
• 재훈련이나 적대적 예제 생성 없이 고정된 특징 추출기와 校정된 선형 분류기를 사용하여 추론을 수행한다.

실험 결과

연구 질문

• RQ1 대규모 기초 데이터셋에서의 표준 적대적 훈련이 메타학습이나 에피소드 기반 훈련 없이 소수의 이미지 분류에서 강건성을 향상시킬 수 있는가?
• RQ2 표준 선형 분류기와 비교해 복잡한 중심 분류기(CNC)가 소수의 설정에서 강건성을 향상시키는가?
• RQ3 제안된 방법을 인터벌 바운드 프로파게이션(IBP)과 같은 검증 가능한 강건성 분류로 확장할 수 있는가?
• RQ4 선형 분류기 훈련 중 소수의 데이터에서 유도된 적대적 예제를 포함하면 성능 향상이 이루어지는가, 아니면 성능 저하가 발생하는가?
• RQ5 보정 과정에서 사용하는 기초 카테고리 중심점의 수(m)가 최종 모델의 강건성과 정확도에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 Mini-ImageNet과 CIFAR-FS와 같은 표준 소수의 벤치마크에서 최신 기술 수준 또는 경쟁 가능한 강건 정확도를 달성하며, 복잡한 메타학습 기반 접근보다 뛰어난 성능을 보였다.
• 기초 카테고리에서 m=2개의 중심점을 사용한 校정된 최근접 중심(CNC) 분류기가 최고의 성능를 보였으며, 효과적인 보정을 위해 소수의 기초 클래스 프로토타입만으로도 충분함을 시사한다.
• ResNet18를 사용하여 Mini-ImageNet(1-shot)에서 20단계 PGD 공격 하에 21.38%의 강건 정확도를 달성했으며, 청소된 데이터에서 훈련된 기준 선형 분류기(19.56%)나 적대적 예제에서 훈련된 분류기(18.83%)를 뛰어넘었다.
• 이 방법은 검증 가능한 강건성 기법의 사용을 가능하게 한다: IBP와 결합했을 때 CNC 방법은 CIFAR-FS에서 23.25%의 검증된 정확도를 달성하여, 검증 가능한 강건성과의 호환성을 입증했다.
• 소수의 데이터에서 유도된 적대적 예제를 선형 분류기 훈련에 포함시키면 성능 저하가 발생했으며, 이는 이러한 데이터가 기초 데이터만큼 강건한 일반화에 효과적이지 않음을 시사한다.
• 보정 단계는 추론 속도에 영향을 주지 않는 일회성 전처리 작업이므로, 실세계 구현에 실용적이다.