[논문 리뷰] Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis

Ruifeng Shi, Deming Zhai외 3명|arXiv (Cornell University)|2020. 03. 17.

Smart Agriculture and AI참고 문헌 36인용 수 5

한 줄 요약

이 논문은 추가적인 감독 없이 노이즈 있는 레이블에 대해 강건한 성능을 보이며 CNN 기반 식물 병해진단을 향상시키는 플러그 앤 플레이 정규화 메타러닝 프레임워크를 제안한다. 메타러닝 중에 편향이 적은 샘플을 우선시하는 정규화 모듈을 통합함으로써 수렴 속도를 가속화하고, PlantVillage와 같은 노이즈 있는 데이터셋에서 최신 기술 수준의 정확도를 달성한다.

ABSTRACT

Plant diseases serve as one of main threats to food security and crop production. It is thus valuable to exploit recent advances of artificial intelligence to assist plant disease diagnosis. One popular approach is to transform this problem as a leaf image classification task, which can be then addressed by the powerful convolutional neural networks (CNNs). However, the performance of CNN-based classification approach depends on a large amount of high-quality manually labeled training data, which are inevitably introduced noise on labels in practice, leading to model overfitting and performance degradation. To overcome this problem, we propose a novel framework that incorporates rectified meta-learning module into common CNN paradigm to train a noise-robust deep network without using extra supervision information. The proposed method enjoys the following merits: i) A rectified meta-learning is designed to pay more attention to unbiased samples, leading to accelerated convergence and improved classification accuracy. ii) Our method is free on assumption of label noise distribution, which works well on various kinds of noise. iii) Our method serves as a plug-and-play module, which can be embedded into any deep models optimized by gradient descent based method. Extensive experiments are conducted to demonstrate the superior performance of our algorithm over the state-of-the-arts.

연구 동기 및 목표

• 대규모 식물 병해 이미지 데이터셋에서의 레이블 노이즈 문제를 해결하여, 과적합으로 인한 CNN 성능 저하를 방지한다.
• 수동으로 수정된 레이블이나 노이즈 분포에 대한 가정 없이도 노이즈에 강건한 훈련 프레임워크를 개발한다.
• 메타러닝 중에 편향이 적고 더 신뢰할 수 있는 샘플에 집중함으로써 수렴 속도와 분류 정확도를 향상시킨다.
• 기울기 하강법으로 최적화되는 어떤 딥러닝 모델과도 호환되는 플러그 앤 플레이 모듈을 설계한다.

제안 방법

• 이중 단계 훈련 프레임워크 도입: (1) 원본 노이즈 있는 레이블을 사용한 주 훈련, (2) 예측을 보정하기 위한 정규화 메타러닝.
• 원본 데이터로부터 의사 레이블을 생성한 다수의 합성 미니배치를 만들어 노이즈 있는 훈련 시나리오를 시뮬레이션한다.
• 메타러닝에서 한 스텝 기울기 업데이트를 적용하여 주 모델의 예측을 메타러닝 단계의 예측과 일치시킨다.
• 편향이 높은 샘플(즉, 노이즈가 있을 가능성이 높은 샘플)에 대해 더 높은 펜alties를 할당하는 정규화 모듈을 통합하여 잘못된 레이블 데이터에 대한 과적합을 줄인다.
• 원본 레이블과 메타러닝 손실을 조합한 가중 손실을 사용하며, 기여도를 조절하는 하이퍼파rameter α를 통해 균형을 이룬다.
• 반복적으로 모델을 훈련하여 사이클을 거치면서 의사 레이블을 개선함으로써 레이블 정확도와 모델의 강건성을 점진적으로 향상시킨다.

실험 결과

연구 질문

• RQ1 추가 감독 없이도 메타러닝 기반 접근이 식물 병해진단에서 레이블 노이즈에 대해 모델의 강건성을 향상시킬 수 있는가?
• RQ2 편향이 적은 샘플을 우선시하는 정규화 모듈이 수렴 속도와 최종 분류 정확도에 어떤 영향을 미치는가?
• RQ3 훈련 목표에서 원본 노이즈 있는 레이블과 보정된 의사 레이블 간의 최적의 균형은 무엇인가?
• RQ4 합성 미니배치 수(Q)와 가중 요소 α와 같은 하이퍼파rameter가 모델 성능에 어떤 영향을 미치는가?
• RQ5 제안된 방법이 실세계의 노이즈 있는 데이터셋인 PlantVillage에서 레이블 정확도를 얼마나 향상시킬 수 있는가?

주요 결과

• 제안된 방법은 다양한 노이즈 수준에서 PlantVillage 데이터셋에서 최신 기술 수준의 성능을 달성하며, 기존의 SOTA 방법들을 능가한다.
• α = 0.5일 때 원본 레이블과 보정된 의사 레이블의 공동 훈련이 가장 높은 분류 정확도를 기록하여, 감독 신호 간의 최적 균형을 나타낸다.
• 정규화 모듈은 훈련을 안정화시켜 혼합 노이즈(ρ=0.2 및 ρ=0.3) 조건에서 약 27회 반복 이내에 수렴을 가능하게 하며, 이와 반대로 이 모듈 없이 훈련할 경우 수렴이 불안정하다.
• 합성 미니배치 수(Q)를 늘릴수록 분류 정확도가 향상되며, Q=10이 성능과 훈련 속도 사이의 최적의 트레이드오프를 제공한다.
• 최종 모델은 PlantVillage 데이터셋에서 원본 노이즈 레이블의 75.6%에서 보정된 의사 레이블로의 레이블 정확도를 92.1%까지 향상시켜 효과적인 노이즈 보정을 입증한다.
• 이 방법은 대칭, 비대칭, 혼합 노이즈 유형 모두에 대해 강건하며, 특정한 노이즈 분포를 가정하지 않더라도 일반화 가능함을 확인한다.