[논문 리뷰] Combating Noise: Semi-supervised Learning by Region Uncertainty Quantification

Zhenyu Wang, Yali Li외 2명|arXiv (Cornell University)|2021. 11. 01.

Anomaly Detection Techniques and Applications참고 문헌 27인용 수 9

한 줄 요약

이 논문은 노이즈에 강건한 준지도 학습 객체 검출 방법을 제안하며, 가짜 레이블이 부여된 영역의 불확실성 정도를 정량화하여 노이즈가 있는 애너테이션으로 인한 성능 저하를 완화한다. 불확실성 인식 소프트 타겟을 도입하고 다중 피크 확률 분포를 촉진함으로써 일반화 능력을 향상시키며, PASCAL VOC에서 감독 학습 기반 모델 대비 6.2% AP 향상, MS COCO에서 4.2% 향상하여 최신 기준 성능(SOTA)을 달성한다.

ABSTRACT

Semi-supervised learning aims to leverage a large amount of unlabeled data for performance boosting. Existing works primarily focus on image classification. In this paper, we delve into semi-supervised learning for object detection, where labeled data are more labor-intensive to collect. Current methods are easily distracted by noisy regions generated by pseudo labels. To combat the noisy labeling, we propose noise-resistant semi-supervised learning by quantifying the region uncertainty. We first investigate the adverse effects brought by different forms of noise associated with pseudo labels. Then we propose to quantify the uncertainty of regions by identifying the noise-resistant properties of regions over different strengths. By importing the region uncertainty quantification and promoting multipeak probability distribution output, we introduce uncertainty into training and further achieve noise-resistant learning. Experiments on both PASCAL VOC and MS COCO demonstrate the extraordinary performance of our method.

연구 동기 및 목표

• 비정상적인 가짜 레이블이 준지도 학습 객체 검출 성능 향상에 악영향을 미치는 문제를 해결하기 위해.
• 누락된 진짜 레이블, 분류 오류, 할당 오류 등 다양한 유형의 노이즈가 영역 제안 및 모델 일반화에 미치는 영향을 조사하기 위해.
• 노이즈가 있는 가짜 레이블에 민감도를 반영하는 영역 불확실성 정량화 지표를 개발하여 내성적 강건성을 향상시키기 위해.
• 불확실성 정보를 소프트 타겟에 통합하는 학습 목표를 설계하여 불확실한 영역에서의 과신을 줄이기 위해.
• 다중 피크 확률 분포를 허용하고 클래스 간 경쟁을 제거하여 모델 일반화 능력을 향상시키기 위해.

제안 방법

• 다양한 강도의 가짜 레이블 노이즈에 대한 영역 제안의 민감도를 기반으로 영역 불확실성 정량화 지표 $ u(\beta) $ 를 제안한다.
• 동적 $ \beta $ 를 사용하여 불확실성 추정을 적응적으로 스케일링하며, 학습 시간이 갈수록 모델의 자신감과 노이즈 노출 정도를 반영하여 증가시킨다.
• 가짜 레이블의 영향을 줄이기 위해 $ u(\beta) $ 를 가중치로 사용하여 교차 엔트로피 손실을 가중하는 불확실성 인식 소프트 타겟을 구성한다.
• 다중 피크 확률 분포를 허용하기 위해 클래스 간 경쟁 효과를 제거하여 불확실한 예측에서의 과신을 방지한다.
• 불확실성 인식 소프트 타겟과 포칼 손실을 조합하여 노이즈가 많은 예측을 추가로 억제하고 어려운 예제 마이닝을 향상시킨다.
• 교사-학생 프레임워크를 활용하여 교사 모델이 가짜 레이블을 생성하고, 학생 모델이 라벨이 있는 데이터와 라벨이 없는 데이터 모두에 대해 불확실성 인식 지도 하에 학습된다.

실험 결과

연구 질문

• RQ1 가짜 레이블 내에서 어떤 노이즈 유형이 준지도 학습 객체 검출 성능을 가장 심각하게 떨어뜨리는가?
• RQ2 노이즈가 있는 가짜 레이블에 민감도를 반영하는 방식으로 영역 수준의 불확실성을 어떻게 정량화할 수 있는가?
• RQ3 학습 목표에 불확실성을 통합하면 가짜 레이블의 노이즈에 대해 강건성이 향상되는가?
• RQ4 표준 교차 엔트로피 대비 다중 피크 확률 분포를 허용함으로써 노이즈 예측에 과적합되는 것을 줄일 수 있는가?
• RQ5 불확실성 정량화가 PASCAL VOC 및 MS COCO와 같은 표준 벤치마크에서 모델 일반화 및 성능에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 MS COCO에서 49.3% AP와 80.6% AP50를 달성하여 감독 학습 기반 모델 대비 4.2% 향상되었다.
• PASCAL VOC에서 제안 방법은 감독 학습 기반 모델 대비 AP를 6.2% 향상시켜 노이즈가 있는 라벨이 없는 데이터에서 강력한 일반화 능력을 입증했다.
• 불확실성 인식 소프트 타겟은 AP50를 3.0% 향상시키고 AP75는 5% 이상 향상시켜 국소화 정확도 향상이 확인되었다.
• 시각화 결과에서 깨끗한 영역 제안은 노이즈가 있는 영역보다 항상 낮은 $ u(\beta) $ 를 보이며, 이는 지표가 신뢰할 수 있는 영역과 신뢰할 수 없는 영역을 구분할 수 있음을 검증한다.
• 모델 성능은 $ C $, $ \Delta_f $, 및 $ q $ 의 하이퍼파라미터 설정 변화에 대해 안정적이며, 다양한 설정에서도 일관된 성능 유지를 보였다.
• 클래스 간 경쟁을 제거하고 다중 피크 분포를 허용함으로써 불확실한 영역에서 진짜 클래스의 확률이 증가하여 분류 및 국소화 성능이 향상되었다.