[논문 리뷰] Instance-Dependent Noisy Label Learning via Graphical Modelling

Arpit Garg, Cuong C. Nguyen외 3명|arXiv (Cornell University)|2022. 09. 02.

Machine Learning and Data Classification인용 수 4

한 줄 요약

이 논문은 이미지 복원을 위해 연속 이항분포를 사용하는 변환 자동인코더와 DivideMix를 활용해 청소된 레이블과 노이즈가 섞인 레이블을 모두 활용하는 분류기로 구성된 InstanceGM이라는 인스턴스 의존적 노이즈 레이블 학습을 위한 그래픽 모델링 방법을 제안한다. 이 방법은 여러 인스턴스 의존적 노이즈(Instance-Dependent Noise, IDN) 벤치마크에서 최신 기준 성능을 달성하며, CIFAR10에서 노이즈 비율 50% 조건에서도 95.90%의 정확도를 기록하여 기존 방법 대비 훨씬 높은 안정성과 전체 데이터 활용도를 통해 뚜렷한 성능 향상을 보여준다.

ABSTRACT

Noisy labels are unavoidable yet troublesome in the ecosystem of deep learning because models can easily overfit them. There are many types of label noise, such as symmetric, asymmetric and instance-dependent noise (IDN), with IDN being the only type that depends on image information. Such dependence on image information makes IDN a critical type of label noise to study, given that labelling mistakes are caused in large part by insufficient or ambiguous information about the visual classes present in images. Aiming to provide an effective technique to address IDN, we present a new graphical modelling approach called InstanceGM, that combines discriminative and generative models. The main contributions of InstanceGM are: i) the use of the continuous Bernoulli distribution to train the generative model, offering significant training advantages, and ii) the exploration of a state-of-the-art noisy-label discriminative classifier to generate clean labels from instance-dependent noisy-label samples. InstanceGM is competitive with current noisy-label learning approaches, particularly in IDN benchmarks using synthetic and real-world datasets, where our method shows better accuracy than the competitors in most experiments.

연구 동기 및 목표

• 이미지 콘텐츠에 따라 잘못된 레이블링이 발생하는 인스턴스 의존적 레이블 노이즈(IDN) 문제를 다루며, 이는 실제 데이터셋에서 흔하지만 기존 방법에서 다루지 못한 문제이다.
• 기존 방법들이 인스턴스 독립적 노이즈 가정에 의존하거나 학습에 청소된 샘플만 사용하는 한계를 극복한다.
• 진짜 레이블과 이미지 특징을 잠재 변수로 간주하여 이미지와 노이즈 레이블 생성을 동시에 모델링하는 통합 그래픽 모델 프레임워크를 개발한다.
• 이미지 복원에 대해 평균 제곱오차(MSE) 대신 연속 이항분포를 사용하여 학습 안정성과 정확도를 향상시킨다.
• 공동 학습(co-teaching)을 대체하여 DivideMix를 도입함으로써, 청소된 샘플뿐 아니라 노이즈가 섞인 샘플까지 모두 활용하는 반감독 학습을 가능하게 하여 학습 데이터 전체를 효율적으로 활용한다.

제안 방법

• InstanceGM은 진짜 레이블 $Y$와 이미지 특징 $Z$를 잠재 변수로 사용하며, 관측된 데이터로는 이미지 $X$와 노이즈가 섞인 레이블 $\hat{Y}$를 사용하는 그래픽 모델을 적용한다.
• 생성 모델은 변환 자동인코더(Variational Auto-Encoder, VAE)를 사용하며, 표준 MSE 손실 대신 연속 이항분포를 사용해 재구성된 이미지의 가능도를 모델링함으로써 학습 안정성을 향상시키고 하이퍼파rameter 튜닝을 제거한다.
• 연속 이항분포는 픽셀 수준의 재구성에 사용되어 최적화 과정에서 더 나은 기울기 흐름과 안정성을 제공한다.
• 분류기 성분은 DivideMix를 사용하며, 이는 가짜 레이블링과 일致성 정규화를 활용해 청소된 레이블과 노이즈가 섞인 레이블을 모두 기반으로 학습하는 반감독 학습 방법이다.
• 이 프레임워크는 엔드 투 엔드 학습 절차를 통해 생성 모델과 분류기 성분을 동시에 최적화하여 고도의 IDN 비율에서도 강력한 학습이 가능하도록 한다.
• 이 방법은 합성 및 실제 IDN 벤치마크에서 평가되었으며, CIFAR10, CIFAR100, Red Mini-ImageNet, ANIMAL-10N, CLOTHING-1M를 포함한 다양한 데이터셋에서 일관된 성능 향상을 보였다.

Figure 2: The proposed InstanceGM trains the Classifiers to output clean labels for instance-dependent noisy-label samples. We first warmup our two classifiers (Classifier- { 11,12 } ) using the classification loss, and then with classification loss we train the GMM to separate clean and noisy sampl

실험 결과

연구 질문

• RQ1 이미지와 노이즈 레이블 생성을 동시에 모델링하는 그래픽 모델이 기존 방법에 비해 인스턴스 의존적 노이즈 레이블 학습 성능을 향상시키는가?
• RQ2 표준 MSE 재구성 손실 대신 연속 이항분포를 사용함으로써, 노이즈 레이블 학습을 위한 VAE 기반 생성 모델의 학습 안정성과 정확도가 향상되는가?
• RQ3 청소된 샘플뿐 아니라 노이즈가 섞인 샘플까지 활용하는 DivideMix를 분류기로 사용할 경우, 청소된 샘플만 사용하는 co-teaching 기반 방법보다 성능이 뛰어나지는가?
• RQ4 InstanceGM은 고노이즈 합성 데이터셋과 CLOTHING-1M, ANIMAL-10N와 같은 실제 노이즈가 섞인 데이터셋을 포함한 다양한 IDN 벤치마크에서 어떻게 성능을 발휘하는가?
• RQ5 연속 이항분포 재구성과 DivideMix 기반 분류기 각각의 구성 요소가 CausalNL과 같은 베이스라인 방법 대비 전체 성능 향상에 기여하는 정도는 어떠한가?

주요 결과

• InstanceGM은 CIFAR10에서 인스턴스 의존적 노이즈 비율 50% 조건에서도 95.90%의 테스트 정확도를 기록하여, CausalNL(78.63%)과 CausalNL에 DivideMix를 적용한 경우(88.62%)보다 뚜렷한 성능 향상을 보였다.
• ANIMAL-10N에서 InstanceGM은 VGG 기반으로 84.6%의 정확도를 달성했으며, ResNet(82.2%)과 ConvNeXt(84.7%)를 사용할 경우 더 높은 성능 향상을 보여 다양한 아키텍처 간 강력한 일반화 능력을 입증했다.
• Red Mini-ImageNet에서 InstanceGM은 자기학습 전처리 없이도, 있으며 전처리를 적용한 경우에도 최신 기준 성능을 기록하여 PropMix 및 기타 최근 방법들을 압도했다.
• 제거 분석에서 co-teaching를 DivideMix로 대체함으로써 정확도가 약 10% 향상되었으며, MSE에서 연속 이항분포 재구성으로 전환함으로써 추가로 약 7%의 성능 향상이 이루어졌다.
• CLOTHING-1M에서 InstanceGM은 74.40%의 정확도를 기록하여, DivideMix(74.76%)와 Nested-CoTeaching(74.90%)와 경쟁 가능한 성능을 보여 대규모 실제 노이즈 데이터셋에서도 뛰어난 강인성을 입증했다.
• 제거 분석 결과, 연속 이항분포 재구성 손실과 DivideMix 기반 분류기 성분이 InstanceGM의 성공에 매우 중요한 역할을 하며, 각각이 최종 성능 향상에 상당한 기여를 하고 있음을 확인했다.