[논문 리뷰] Repurposing Pretrained Models for Robust Out-of-domain Few-Shot Learning

Namyeong Kwon, Hwidong Na외 2명|arXiv (Cornell University)|2021. 03. 16.

Domain Adaptation and Few-Shot Learning참고 문헌 29인용 수 6

한 줄 요약

이 논문은 원래 메타학습 데이터에 접근할 수 없을 때도 사전 훈련된 MAML 체크포인트를 도메인 외 Few-Shot 학습에 재사용할 수 있는 방법을 제안한다. 딥 앙상블에서 유도한 불확실성 추정을 활용해 학습률을 적응적으로 조정하고, 태스크별 적대적 예제를 생성함으로써, SGD와 Adam 최적화기 모두에서 동일 도메인 및 교차 도메인 벤치마크에서 정확도와 강인성을 향상시킨다.

ABSTRACT

Model-agnostic meta-learning (MAML) is a popular method for few-shot learning but assumes that we have access to the meta-training set. In practice, training on the meta-training set may not always be an option due to data privacy concerns, intellectual property issues, or merely lack of computing resources. In this paper, we consider the novel problem of repurposing pretrained MAML checkpoints to solve new few-shot classification tasks. Because of the potential distribution mismatch, the original MAML steps may no longer be optimal. Therefore we propose an alternative meta-testing procedure and combine MAML gradient steps with adversarial training and uncertainty-based stepsize adaptation. Our method outperforms "vanilla" MAML on same-domain and cross-domains benchmarks using both SGD and Adam optimizers and shows improved robustness to the choice of base stepsize.

연구 동기 및 목표

• 개인정보 보호, 라이센스 제약 또는 자원 제약으로 인해 메타학습 데이터에 접근할 수 없는 실세계 시나리오에서 Few-Shot 모델을 구현하는 데 도전하는 것.
• 표준 MAML의 성능을 저하시키는 메타학습과 메타테스트 태스크 간의 분포 이탈 문제를 해결하는 것.
• 재훈련이 불가능한 상황에서 기본 학습률과 같은 하이퍼파라미터 선택에 대한 강인성을 향상시키는 것.
• 기본 기울기 단계를 초월해 불확실성과 적대적 데이터 증강을 통합한 MAML의 메타테스트 절차를 개발하는 것.
• 재훈련 없이도 불확실성 인식 적응 및 적대적 훈련이 Few-Shot 학습의 일반화 성능을 향상시킬 수 있음을 입증하는 것.

제안 방법

• 메타테스트 중에 지원 집합에 대해 딥 앙상블을 사용하여 모델 파라미터의 불확실성과 입력 기울기의 불확실성을 추정한다.
• 파라미터의 불확실성에 반비례하여 MAML의 학습률을 각 파라미터별로 조정하여 고불확실성 구성 요소의 업데이트를 감소시킨다.
• 입력 기울기의 불확실성을 기반으로 태스크별 적대적 예제를 생성하여 적응 과정 중 강인성을 향상시킨다.
• 입력 기울기 불확실성이 높은 경우에 더 큰 편향을 적용하는 불확실성 유도 적대적 훈련(UFGSM)을 적용한다.
• 불확실성 기반 단계 크기 조정과 적대적 데이터 증강을 결합하여 표준 MAML과는 다름없는 수정된 메타테스트 절차를 구성한다.
• 메타테스트 중 배치 정규화 레이어를 고정하여 고불확실성 레이어가 큰 업데이트에 민감할 수 있다는 가설을 검증한다.

실험 결과

연구 질문

• RQ1 재훈련이 불가능한 상황에서 딥 앙상블의 불확실성 추정이 메타테스트 성능 향상에 기여할 수 있는가?
• RQ2 불확실성 기반 적응형 학습률 스케줄링이 Few-Shot 학습에서 기본 학습률 선택에 대한 강인성을 향상시키는가?
• RQ3 입력 기울기 불확실성에서 유도된 태스크별 적대적 예제가 도메인 외 Few-Shot 태스크에서의 일반화를 향상시키는가?
• RQ4 SGD와 Adam 최적화기 모두에서 제안된 방법이 표준 MAML에 비해 정확도와 강인성 측면에서 어떻게 비교되는가?
• RQ5 메타테스트 중 고불확실성 레이어(예: 배치 정규화)를 고정하는 것이 안정성과 성능 향상에 유익한가?

주요 결과

• 제안된 방법은 동일 도메인 및 교차 도메인 Few-Shot 벤치마크에서 표준 MAML을 능가하며, 모든 메트릭에서 더 높은 정확도를 달성한다.
• 5-way 1-shot MiniImageNet 벤치마크에서, SGD+USA+UFGSM로 38.71%의 정확도를 기록했으며, 표준 FGSM의 36.97%보다 높게 나타나 불확실성 기반 적대적 훈련의 유용성을 입증한다.
• Adam 최적화기를 사용할 경우, Flowers 데이터셋에서 44.58%의 top-1 정확도를 기록하여 베이스라인(40.33%)을 초월하며 최적화기 간 강인성이 향상됨을 보였다.
• 메타테스트 중 배치 정규화 레이어를 고정함으로써 All 메트릭에서 성능 향상이 있었으며, 특히 기본 학습률이 0.1 이상일 경우 두드러졌다. 이는 고불확실성 구성 요소에 대한 업데이트가 위험할 수 있음을 확인한다.
• 기본 학습률 선택에 대한 강인성이 높은 일관성 있는 향상이 있었으며, 넓은 범위의 학습률에서 성능 안정성이 유지되었다.
• 실험적 아블레이션 결과, 고불확실성 파라미터에 대해 큰 단계 크기를 사용하거나 고불확실성 기울기에서의 적대적 편향을 줄이면 정확도가 낮아지고 강인성이 감소함을 확인했다.