[논문 리뷰] ProSelfLC: Progressive Self Label Correction for Training Robust Deep Neural Networks

Xinshao Wang, Hua Yang외 3명|arXiv (Cornell University)|2020. 05. 07.

Machine Learning and Data Classification참고 문헌 61인용 수 14

한 줄 요약

ProSelfLC는 훈련 진행 상황과 예측 신뢰도(낮은 엔트로피)를 바탕으로 시간이 지남에 따라 모델 예측 레이블에 대한 신뢰도를 적응적으로 증가시키는 점진적이고 종단간(end-to-end) 방법을 제안한다. 이는 의미 있는 낮은 엔트로피 타겟을 재정의하고 엔트로피 최소화를 촉진함으로써, 깨끗한 데이터와 노이즈가 있는 데이터 설정 모두에서 기존의 레이블 보정 및 정규화 방법을 능가하며, CIFAR-100 및 Clothing1M 데이터셋에서 뛰어난 강건성과 일반화 성능을 입증한다.

ABSTRACT

To train robust deep neural networks (DNNs), we systematically study several target modification approaches, which include output regularisation, self and non-self label correction (LC). Two key issues are discovered: (1) Self LC is the most appealing as it exploits its own knowledge and requires no extra models. However, how to automatically decide the trust degree of a learner as training goes is not well answered in the literature? (2) Some methods penalise while the others reward low-entropy predictions, prompting us to ask which one is better? To resolve the first issue, taking two well-accepted propositions--deep neural networks learn meaningful patterns before fitting noise [3] and minimum entropy regularisation principle [10]--we propose a novel end-to-end method named ProSelfLC, which is designed according to learning time and entropy. Specifically, given a data point, we progressively increase trust in its predicted label distribution versus its annotated one if a model has been trained for enough time and the prediction is of low entropy (high confidence). For the second issue, according to ProSelfLC, we empirically prove that it is better to redefine a meaningful low-entropy status and optimise the learner toward it. This serves as a defence of entropy minimisation. We demonstrate the effectiveness of ProSelfLC through extensive experiments in both clean and noisy settings. The source code is available at https://github.com/XinshaoAmosWang/ProSelfLC-CVPR2021. Keywords: entropy minimisation, maximum entropy, confidence penalty, self knowledge distillation, label correction, label noise, semi-supervised learning, output regularisation

연구 동기 및 목표

• 자기 레이블 보정(Self LC)에서 적응적 신뢰 메커니즘이 부족한 문제를 해결하기 위해, 기존 방법이 훈련 전반에 걸쳐 신뢰 가중치 ε를 고정하는 데서 비롯된다.
• 레이블 수정의 모호함을 해결한다: 특히 노이즈가 있는 레이블 하에서 낮은 엔트로피 예측에 대해 보상할 것인지, 또는 처벌할 것인지에 대한 문제.
• 의미 있는 '낮은 엔트로피 상태'를 재정의하고 이를 향해 최적화함으로써 모델의 일반화 성능 향상 여부를 경험적으로 검증한다.
• 모델 자체의 예측을 사용해 점진적으로 레이블을 보정하는 종단간 훈련이 가능한 방법을 개발한다. 보조 모델이나 수동 개입이 필요하지 않다.

제안 방법

• ProSelfLC는 훈련 시간과 예측 엔트로피에 기반해 자기 레이블 보정을 위한 신뢰 가중치 ε를 동적으로 조정한다. 훈련이 진행될수록 예측의 확신도가 높아지므로 ε도 증가시킨다.
• 두 가지 원칙을 활용한다: 깊은 신경망은 노이즈를 피하기 전에 의미 있는 패턴을 학습하고, 최소 엔트로피 정규화 원리에 따라 모델 예측에 대한 점진적 신뢰를 이끌어낸다.
• 점진적 보정 타겟을 (1−ε)q + εp로 정의한다. 여기서 q는 원-핫 레이블이고 p는 모델의 예측 분포이며, ε는 에포크 수와 엔트로피에 따라 시간이 지남에 따라 증가한다.
• ε에 대해 훈련 시간과 엔트로피에 따라 조정 가능한 학습 가능한 스케줄을 사용한다. 기존의 부트스트랩핑이나 공동 최적화와 같이 고정되거나 단계별로 설정된 값은 사용하지 않는다.
• 이 방법은 종단간 미분 가능하며, 계산 오버헤드가 극히 적어 표준 훈련 파이프라인에 원활하게 통합할 수 있다.
• ‘낮은 엔트로피’를 최적화 대상으로 재정의하여, 정확한 예측에 대한 확신을 높이는 방향으로 유도하며, 기존의 신뢰도 처벌 방법과는 달리 확신을 처벌하지 않는다.

실험 결과

연구 질문

• RQ1 자기 레이블 보정을 고정되거나 단계별로 설정된 신뢰 가중치에 의존하는 것이 아니라, 훈련 진행 상황에 적응적으로 조정할 수 있는 방법은 무엇인가?
• RQ2 낮은 엔트로피 예측에 대해 처벌하는 것(신뢰도 처벌 방법과 유사하게)보다는, 의미 있는 낮은 엔트로피 상태를 보상하고 이를 향해 최적화하는 것이 더 낫단 말인가?
• RQ3 외부 모델이나 인간의 간섭 없이도, 모델 예측에 대한 점진적 신뢰도를 통해 레이블 노이즈에 대한 강건성을 향상시킬 수 있는가?
• RQ4 의미 있는 낮은 엔트로피 상태를 재정의함으로써 노이즈가 있는 환경에서 일반화 성능과 의미 구조 학습이 향상되는가?

주요 결과

• CIFAR-100에서 비대칭 레이블 노이즈 비율이 40%일 때, ProSelfLC는 73.4%의 최고 테스트 정확도를 기록하여 S-adaptation, Masking, MD-DYR-SH를 포함한 모든 베이스라인을 능가한다.
• 실제 세계의 Clothing1M 데이터셋(약 38.5%의 레이블 노이즈)에서 ProSelfLC는 73.4%의 테스트 정확도를 달성하여 이어지는 최고 성능 기록(72.6%)을 0.8% 포인트 뛰어넘었다.
• 기존의 베이스라인 대비 잘못된 레이블 피팅을 40–50% 감소시키며, 특히 의미론적 클래스 오류를 더 효과적으로 보정함을 동적 레이블 피팅 및 보정 통계를 통해 입증했다.
• 모든 훈련 기간 동안 가장 낮은 엔트로피를 유지하면서도 최고의 일반화 성능를 달성함으로써, 적절히 목표로 삼을 경우 확신도가 성능에 해를 끼치지 않음을 입증했다.
• 학습 동역학 분석 결과, ProSelfLC는 노이즈가 많을수록 더 빨리 노이즈 레이블을 피하고 시간이 지남에 따라 더 잘 일반화됨을 보였다.
• 제거 실험(ablation study) 결과, 더 높은 노이즈 비율에서 더 작은 배치 크기 B가 더 우수한 성능를 보였으며, ε와 B가 함께 모델 캘리브레이션과 강건성에 영향을 미친다.