[논문 리뷰] Learning Adaptive Loss for Robust Learning with Noisy Labels

Jun Shu, Qian Zhao외 3명|arXiv (Cornell University)|2020. 02. 16.

Machine Learning and Data Classification참고 문헌 56인용 수 15

한 줄 요약

이 논문은 메타학습을 통해 네트워크 가중치와 강건 손실 함수의 하이퍼파ram터를 동시에 최적화하는 적응형 강건 학습(ARL) 프레임워크를 제안한다. 이는 자동으로 데이터 기반의 하이퍼파ram터 튜닝을 가능하게 하며, 다양한 강건 손실 함수와 데이터셋에서 기존의 하이퍼파ram터 튜닝 및 최신 기준 기준선을 일관되게 능가함으로써 레이블 노이즈 하에서 뛰어난 일반화 성능을 보여준다.

ABSTRACT

Robust loss minimization is an important strategy for handling robust learning issue on noisy labels. Current robust loss functions, however, inevitably involve hyperparameter(s) to be tuned, manually or heuristically through cross validation, which makes them fairly hard to be generally applied in practice. Besides, the non-convexity brought by the loss as well as the complicated network architecture makes it easily trapped into an unexpected solution with poor generalization capability. To address above issues, we propose a meta-learning method capable of adaptively learning hyperparameter in robust loss functions. Specifically, through mutual amelioration between robust loss hyperparameter and network parameters in our method, both of them can be simultaneously finely learned and coordinated to attain solutions with good generalization capability. Four kinds of SOTA robust loss functions are attempted to be integrated into our algorithm, and comprehensive experiments substantiate the general availability and effectiveness of the proposed method in both its accuracy and generalization performance, as compared with conventional hyperparameter tuning strategy, even with carefully tuned hyperparameters.

연구 동기 및 목표

• 강건 손실 함수에서 수동으로 하이퍼파라미터를 튜닝하는 데서 비롯되는 과제를 해결함으로써 실용적 구현과 일반화 능력을 제한하는 문제를 해결한다.
• 교차검증과 히우리스틱 튜닝에 대한 의존도를 줄이기 위해, 엔드 투 엔드로 하이퍼파라미터를 적응적으로 학습할 수 있도록 한다.
• 딥러닝에서 레이블 노이즈 하에서 일반화 성능을 향상시키기 위해 네트워크 파라미터와 강건 손실 하이퍼파라미터를 함께 최적화한다.
• 다양한 최신 기준 강건 손실 함수에 대해 제안된 방법의 일반성과 효능을 검증한다.
• 매우 비볼록 최적화 환경에서 해의 품질을 향상시키기 위해 이론적으로 탄탄한 반복적 메타학습 프레임워크를 제공한다.

제안 방법

• 이중 최적화 기반의 반복적 업데이트를 통해 메타학습 프레임워크를 제안하며, 네트워크 파라미터와 강건 손실 하이퍼파라미터를 번갈아가며 업데이트한다.
• 하이퍼파라미터와 네트워크 가중치가 함께 개선되어 일반화 성능이 향상되는 상호 보완 메커니즘을 도입한다.
• GCE, SL, Bi-Tempered, PolySoft 등 네 가지 최신 기준 강건 손실 함수에 이 프레임워크를 적용하여 광범위한 적용 가능성을 입증한다.
• 이중 단계 학습 프로세스를 사용한다: 내부 루프는 주어진 하이퍼파라미터에 대해 네트워크 가중치를 최적화하고, 외부 루프는 메타검증 손실을 사용해 하이퍼파라미터를 업데이트한다.
• 안정성을 확보하기 위해 학습률 감소와 가중치 감소를 적용한 SGD를 사용하여 네트워크 및 하이퍼파라미터 최적화를 수행한다.
• 학습 중에 손실 함수의 강건성을 동적으로 조정하여 노이즈가 있는 레이블에 대한 과적합을 줄이도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 메타학습 접근법이 교차검증 없이도 강건 손실 함수의 하이퍼파라미터를 효과적이고 자동으로 튜닝할 수 있는가?
• RQ2 네트워크 가중치와 강건 손실 하이퍼파라미터를 함께 최적화하는 것이 고정된 하이퍼파라미터 설정보다 더 나은 일반화 성능을 이끌어내는가?
• RQ3 다양한 노이즈 비율 하에서 기존의 하이퍼파라미터 튜닝 방식과 비교해 본다면, 제안된 적응형 학습 전략은 정확도와 강건성 측면에서 어떻게 성능을 내는가?
• RQ4 이 프레임워크는 이론적으로 강건성이 보장된 손실 함수를 포함해 다양한 최신 기준 강건 손실 함수 유형으로 일반화 가능한가?
• RQ5 하이퍼파라미터와 네트워크 파라미터 간의 반복적 상호 보완이 순차적 최적화보다 더 나은 해를 도출하는가?

주요 결과

• ARL 방법은 GCE, SL, Bi-Tempered, PolySoft를 포함한 모든 테스트된 강건 손실 함수에서 기존의 교차검증 기반 하이퍼파라미터 튜닝을 일관되게 능가한다.
• 노이즈 비율이 다양하게 설정된 CIFAR-10에서 ARL은 기준 방법보다 높은 테스트 정확도를 달성했으며, 40% 노이즈 상황에서 표준 SL 대비 최대 5.2% 향상된 성능을 보였다.
• 실세계 Clothing1M 데이터셋에서 A-PolySoft는 최고의 정확도 87.6%를 기록하여 모든 기준 방법을 능가했으며, 대규모 노이즈 데이터에서 강력한 일반화 성능을 입증했다.
• 절단 실험을 통해 하이퍼파라미터와 네트워크 가중치 간의 상호 보완이 필수적임을 확인했으며, 한쪽을 고정하고 다른 쪽만 최적화하는 전략보다 ARL이 더 높은 성능을 보였다.
• t-SNE 시각화 결과, ARL 기반 모델(예: A-Bi-Tempered)이 학습한 표현은 CE나 표준 Bi-Tempered의 표현보다 더 잘 분리되고 더 잘 군집되어 있음을 확인했다.
• 하이퍼파라미터가 최적화되지 않은 상태에서도 이 방법이 효과를 보였으며, 초기화 및 노이즈에 대해 강건함을 입증했다.