[논문 리뷰] Using learned optimizers to make models robust to input noise

Luke Metz, Niru Maheswaranathan외 3명|arXiv (Cornell University)|2019. 06. 08.

Adversarial Robustness in Machine Learning참고 문헌 28인용 수 13

한 줄 요약

이 논문은 입력 노이즈, 특히 훈련 중에 나타나지 않은 손상에 대해 강건한 딥러닝 모델을 생성하기 위해 메타학습을 사용하는 것을 제안한다. 훈련 중에 나타나지 않은 노이즈 유형에 대해 일반화 능력을 향상시키기 위해, 검증 데이터에 손상이 가해진 상태에서 최적화기의 메타학습을 수행함으로써, 기존의 Adam과 같은 표준 최적화기보다 더 나은 일반화 성능을 보이는 모델을 얻을 수 있다.

ABSTRACT

State-of-the art vision models can achieve superhuman performance on image classification tasks when testing and training data come from the same distribution. However, when models are tested on corrupted images (e.g. due to scale changes, translations, or shifts in brightness or contrast), performance degrades significantly. Here, we explore the possibility of meta-training a learned optimizer that can train image classification models such that they are robust to common image corruptions. Specifically, we are interested training models that are more robust to noise distributions not present in the training data. We find that a learned optimizer meta-trained to produce models which are robust to Gaussian noise trains models that are more robust to Gaussian noise at other scales compared to traditional optimizers like Adam. The effect of meta-training is more complicated when targeting a more general set of noise distributions, but led to improved performance on half of held-out corruption tasks. Our results suggest that meta-learning provides a novel approach for studying and improving the robustness of deep learning models.

연구 동기 및 목표

• 훈련 데이터에 존재하지 않는 입력 노이즈, 특히 손상에 대해 딥러닝 모델의 강건성을 향상시키는 것.
• 메타학습된 최적화기가 메타학습 기간 동안 사용된 특정 노이즈 유형 외의 노이즈에 대해서도 일반화된 강건성을 가지는지 조사하는 것.
• 다양한 이미지 손상 상황에서 수작업으로 설계된 최적화기인 Adam과 비교하여 학습된 최적화기의 성능을 평가하는 것.
• 훈련 분포와 메타최적화의 일반화에 미치는 영향을 탐색하는 것.

제안 방법

• 내부 루프에서 청소된 데이터로 훈련하고, 외부 루프에서 손상된 검증 데이터의 성능 기반으로 최적화하는 이중 레벨 학습 프레임워크를 사용하여, 매개변수화된 최적화기를 메타학습한다.
• 완전 연결 신경망을 사용하여 최적화기 업데이트 규칙을 매개변수화함으로써, 동적 업데이트 메커니즘(예: 모멘텀, 학습률 스케줄링)을 영리하게 학습할 수 있도록 한다.
• 메타학습에서 고분산 추정 기반의 기울기 추정을 피하기 위해, 잘라낸 진화 전략(Truncated Evolutionary Strategies)을 사용한다.
• 외부 목표를, 내부 훈련 기간 동안 사용되지 않은, 노이즈를 주입한 검증 세트의 교차 엔트로피 손실로 정의한다(예: 가우시안 노이즈, 샷 노이즈, 블러).
• 학습용으로 손상된 데이터 세트의 일부(예: 가우시안 노이즈, 밝기, 대비)를 사용하고, 검증용으로 분리된 손상 유형(예: 유리처럼 흐린 블러, 안개)에 대해 일반화 성능을 평가한다.
• 내부 훈련 데이터로 청소된 데이터만 사용한 경우, 최적화된 학습된 최적화기와 비교하여 성능을 평가한다.

실험 결과

연구 질문

• RQ1 메타학습된 최적화기가 메타학습 기간 동안 나타나지 않은 노이즈 유형에 대해서도 모델의 강건성을 일반화할 수 있는가?
• RQ2 특정 손상 유형으로 메타학습을 수행할 경우, 다른 보이지 않는 손상 유형에 대한 성능에 어떤 영향을 미치는가?
• RQ3 내부 훈련 데이터로 청소된 데이터만 사용할 경우, 학습된 최적화기가 수작업으로 설계된 최적화기인 Adam보다 성능이 뛰어나게 되는가?
• RQ4 메타학습된 최적화기를 사용할 때, 내부 훈련 데이터로 손상된 데이터를 사용하는 것과 청소된 데이터를 사용하는 것의 영향은 어떠한가?
• RQ5 메타학습된 최적화기는 기하학적 및 강도 기반 왜곡을 포함한 다양한 손상 유형 간에 강건성을 전이할 수 있는가?

주요 결과

• 가우시안 노이즈로 메타학습된 학습된 최적화기는, 학습률을 수동으로 조정한 Adam보다도 다양한 스케일의 가우시안 노이즈에 대해 더 강건한 성능을 보였다.
• 내부 훈련 데이터로 청소된 데이터만 사용한 경우, 학습된 최적화기는 외부 테스트 세트의 1개 손상 유형(밝기) 제외 전부에서 Adam과 기준 학습된 최적화기보다 뛰어난 성능을 보였다.
• 내부 훈련 데이터로 손상된 데이터를 사용한 경우(메타학습된 손상 유형 세트와 일치), Adam과 학습된 최적화기 양쪽 모두 성능 향상이 뚜렷했으며, 이는 데이터 증강이 여전히 핵심임을 시사한다.
• 학습된 최적화기는 보이지 않는 손상 유형(예: 유리처럼 흐린 블러, 안개)에 대해 일반화 성능을 보였으며, 분리된 손상 작업의 절반에서 Adam과 기준 학습된 최적화기보다 뛰어난 성능을 보였다.
• 손상 유형에 따라 성능이 달라졌으며, 더 넓은 손상 유형 세트로 훈련한 경우, 안개와 밝기 손상에서 학습된 최적화기가 성능이 떨어지는 경향을 보였으며, 이는 다양한 손상 유형 간의 외부 일반화에 도전 과제가 있음을 시사한다.
• 결과적으로, 메타학습은 최적화 과정 자체를 최적화함으로써 모델의 강건성을 향상시키는 새로운 효과적인 접근법을 제공함을 입증한다.