[논문 리뷰] Learning to Segment from Noisy Annotations: A Spatial Correction Approach

Jiachen Yao, Yikai Zhang외 4명|arXiv (Cornell University)|2023. 07. 21.

Machine Learning and Data ClassificationComputer Science인용 수 3

한 줄 요약

이 논문은 의료 영상 분할에서 공간적 상관관계와 노이즈 레이블의 편향을 반영하는 새로운 마르코프 기반 레이블 노이즈 모델을 제안하며, 소규모 정제된 검증 세트를 사용하여 진짜 레이블을 점진적으로 복구하는 공간 보정(Spatial Correction, SC) 방법을 도입한다. 제안된 방법은 합성 및 실제 노이즈가 있는 분할 벤치마크에서 최신 기술(SOTA)을 초월하며, 이론적 보장과 실험적 검증을 통해 고노이즈 또는 최소한의 검증 데이터 조건에서도 강건함을 입증한다.

ABSTRACT

Noisy labels can significantly affect the performance of deep neural networks (DNNs). In medical image segmentation tasks, annotations are error-prone due to the high demand in annotation time and in the annotators' expertise. Existing methods mostly assume noisy labels in different pixels are extit{i.i.d}. However, segmentation label noise usually has strong spatial correlation and has prominent bias in distribution. In this paper, we propose a novel Markov model for segmentation noisy annotations that encodes both spatial correlation and bias. Further, to mitigate such label noise, we propose a label correction method to recover true label progressively. We provide theoretical guarantees of the correctness of the proposed method. Experiments show that our approach outperforms current state-of-the-art methods on both synthetic and real-world noisy annotations.

연구 동기 및 목표

• 의료 영상 분할에서 높은 시간과 전문 지식 요구로 인해 오류가 발생하기 쉬운 레이블 노이즈 문제를 해결하기 위해.
• 레이블 노이즈를 i.i.d.로 간주하는 것이 아니라, 객체 경계 근처에서 발생하는 실제 레이블 오류를 반영하는 공간적 상관관계로 모델링하기 위해.
• 소규모 정제된 검증 세트만을 사용하여 이러한 공간적 상관 노이즈에 의해 유도되는 편향을 완화하는 레이블 보정 방법을 개발하기 위해.
• 최소한의 검증 데이터로도 전체 편향 보정과 레이블 복구가 가능하다는 이론적 보장을 제공하기 위해.
• 합성 및 실제 노이즈가 있는 분할 데이터셋에서 제안된 방법의 유효성을 입증하고, 기존 SOTA 기법들을 능가하기 위해.

제안 방법

• 경계에서의 왜곡을 시뮬레이션하기 위해 두 개의 베르누이 변수를 사용하여 팽창/수축 결정과 경계를 따라 공간적으로 의존적인 강도를 갖는 마르코프 과정 모델을 제안한다.
• 내부 또는 외부 영역에서 흔히 발생하는 오류 레이블을 반영하기 위해 희박한 랜덤 전환 성분을 통합한다.
• 정제된 검증 세트를 사용하여 편향을 추정하고 제거하는 레이블 보정 알고리즘을 개발하며, 이론적으로 한 개의 검증 샘플만으로도 전체 편향 보정이 가능하다는 것을 증명한다.
• 분할 모델 학습과 레이블 보정을 번갈아 수행하는 반복적 변형(SC)을 도입하여 일반적인 노이즈 패tern에 대한 강건성을 향상시킨다.
• 모든 딥 뉴럴 네트워크 백본과의 통합이 가능하도록 아키텍처에 종속되지 않은 방법을 설계한다.
• 실제 경계 왜곡을 연속적으로 생성하는 공간적으로 민감한 노이즈 모델을 도입하여, 비현실적인 i.i.d. 노이즈 패턴과 대비된다.

실험 결과

연구 질문

• RQ1 실제 의료 영상 분할 레이블 노이즈에 내재된 공간적 상관관계와 편향을 효과적으로 모델링하기 위해 마르코프 과정 모델이 유용한가?
• RQ2 소규모 정제된 검증 레이블만을 사용하여 레이블 노이즈를 보정할 수 있으며, 이는 정확성에 대한 이론적 보장이 가능한가?
• RQ3 제안된 공간 보정 방법은 고노이즈 또는 현실적인 노이즈 수준에서 기존 SOTA 기법들과 비교해 성능가능성은 어떠한가?
• RQ4 모델 학습과 보정을 반복적으로 수행함으로써 레이블을 개선하는 과정이 다양한 데이터셋에서 일관된 성능 향상을 이끌어내는가?
• RQ5 제안된 방법은 합성 노이즈 설정을 넘어서 실제 노이즈가 있는 데이터에 일반화 가능한가?

주요 결과

• 고노이즈 수준(S_E 및 S_S 설정)에서 JSRT 데이터셋에서 제안된 SC 방법은 평균 DSC 91.51±0.62를 기록하며, 다음으로 우수한 방법(CLE)의 86.85±0.84보다 유의미하게 높게 나타났다.
• 실제 노이즈가 있는 LIDC-IDRI 데이터셋에서 SC는 평균 DSC 53.72±1.70을 기록하며, 최고의 베이스라인(CDR)의 49.41±0.79를 초월했다.
• 절단 실험에서 SC는 노이즈 수준을 극한 수준까지 높여도 높은 성능를 유지하는 반면, GCE 및 ELR와 같은 베이스라인은 급격히 성능이 저하되었다.
• Cityscapes에서 최소한의 정제된 검증 샘플(1개)로도 SC는 DSC 82.30±0.10을 기록하며, CLE(74.41±0.12)를 포함한 모든 베이스라인을 능가했다.
• 반복적 버전의 SC는 여러 벤치마크에서 수렴하며 일관되게 분할 성능을 향상시켰으며, 복잡한 노이즈 패턴에 대한 강건성을 입증했다.
• 그림 5의 정성적 결과는 SC가 심각한 노이즈 조건에서도 경계 왜곡을 효과적으로 보정하고 진짜 분할 마스크를 복원함을 보여준다.