[논문 리뷰] Training Multi-organ Segmentation Networks with Sample Selection by Relaxed Upper Confident Bound

Yan Wang, Yuyin Zhou외 4명|arXiv (Cornell University)|2018. 04. 07.

Advanced Neural Network Applications참고 문헌 15인용 수 5

한 줄 요약

이 논문은 다기관 분할 네트워크 훈련을 위한 Relaxed Upper Confident Bound (RUCB) 샘플 선택 방법을 제안하며, 어려운 샘플의 이용과 덜 방문된 샘플의 탐색을 균형 잡는 동시에 애너테이션 오류에 대한 민감도를 줄여 성능을 향상시킵니다. RUCB는 Uniform, OHEM, 표준 UCB를 모두 능가하여 16개 기관에서 평균 DSC 74.75%를 기록했으며, 부싘이나 셀리악 동맥과 같이 크기가 작고 분할이 어려운 구조에서 뚜렷한 향상을 보였습니다.

ABSTRACT

Deep convolutional neural networks (CNNs), especially fully convolutional networks, have been widely applied to automatic medical image segmentation problems, e.g., multi-organ segmentation. Existing CNN-based segmentation methods mainly focus on looking for increasingly powerful network architectures, but pay less attention to data sampling strategies for training networks more effectively. In this paper, we present a simple but effective sample selection method for training multi-organ segmentation networks. Sample selection exhibits an exploitation-exploration strategy, i.e., exploiting hard samples and exploring less frequently visited samples. Based on the fact that very hard samples might have annotation errors, we propose a new sample selection policy, named Relaxed Upper Confident Bound (RUCB). Compared with other sample selection policies, e.g., Upper Confident Bound (UCB), it exploits a range of hard samples rather than being stuck with a small set of very hard ones, which mitigates the influence of annotation errors during training. We apply this new sample selection policy to training a multi-organ segmentation network on a dataset containing 120 abdominal CT scans and show that it boosts segmentation performance significantly.

연구 동기 및 목표

• 의료 영상 분할 데이터셋에서의 애너테이션 오류 문제를 다루며, 잘못된 샘플이 어려운 예로 잘못 인식되어 훈련을 오도할 수 있음을 고려합니다.
• 어려운 샘플의 이용과 미방문 샘플의 탐색을 균형 잡는 샘플 선택 전략을 개발하여 다기관 분할의 훈련 효율성과 정확도를 향상시킵니다.
• 매우 어려운 샘플의 선택을 완화함으로써 노이즈가 있거나 잘못 애너테이션된 샘플에 과적합되는 위험을 줄입니다.
• 단순하고 효과적인 샘플 선택 정책이 복잡한 네트워크 아키텍처 변경 없이도 성능 향상에 크게 기여할 수 있음을 입증합니다.

제안 방법

• 각 2D 슬라이스 또는 3D 서브볼륨을 '팔'로 간주하여, 딥러닝 훈련의 샘플 선택에 Upper Confident Bound (UCB) 다팔 랜드마크 전략을 적용합니다.
• 매우 높은 손실을 보이는 잠재적으로 잘못된 샘플에 과적합되는 위험을 줄이기 위해, 더 넓은 범위의 어려운 샘플을 선택하는 RUCB의 개선된 버전을 도입합니다.
• 선택 점수에 포함된 신뢰구간 항목을 통해 평균 손실(이용)과 샘플이 선택된 횟수(탐색)를 균형 잡으며, 탐색 정도를 제어하는 조정 가능한 하이퍼파라미터 α를 사용합니다.
• RUCB를 부트스트랩 훈련 루프에 적용합니다: 초기 FCN을 훈련하고, 각 샘플의 손실을 계산한 후, RUCB 점수를 사용해 반복적으로 새로운 훈련 샘플을 선택하여 네트워크를 재훈련합니다.
• RUCB 점수를 다음과 같이 정의합니다: $ \text{RUCB}(i) = \bar{l}_i + \alpha \sqrt{ \frac{2 \ln n}{n_i} } $, 여기서 $ \bar{l}_i $는 샘플 $ i $의 평균 손실, $ n_i $는 선택 횟수, $ n $은 총 반복 횟수이며, $ \alpha $는 탐색 정도를 제어합니다.
• 16개 기관에서 DSC를 평가 지표로 사용하여 120개의 Abdominal CT 스캔에서 훈련하며, RUCB를 Uniform, OHEM, 표준 UCB 샘플링과 비교합니다.

실험 결과

연구 질문

• RQ1 이용과 탐색을 균형 잡는 샘플 선택 정책이 아키텍처 변경 없이도 다기관 분할 성능 향상에 기여할 수 있는가?
• RQ2 RUCB는 표준 UCB와 OHEM에 비해 애너테이션 오류의 영향을 어떻게 줄이는가?
• RQ3 어려운 샘플의 선택을 완화함으로써 노이즈가 있거나 잘못 애너테이션된 예시에 과적합되는 것을 줄일 수 있는가?
• RQ4 RUCB는 부싘이나 셀리악 동맥처럼 크기가 작고 분할이 어려운 기관에서 얼마나 성능 향상을 이룰 수 있는가?
• RQ5 RUCB의 성능는 UCB 및 Uniform 샘플링과 비교해 훈련 반복 횟수에 따라 어떻게 변화하는가?

주요 결과

• RUCB는 16개 기관에서 평균 DSC 74.75%를 기록했으며, Uniform(73.55%), OHEM(71.08%), UCB(73.47%)보다 뚜렷하게 높았습니다.
• 부신의 DSC는 Uniform의 29.33%에서 RUCB의 36.76%로 상대적 향상 25%를 기록하여, RUCB가 크기가 작고 도전적인 기관에서 효과적임을 입증했습니다.
• 셀리악 동맥 분할 성능은 Uniform의 34.49%에서 RUCB의 38.45%로 향상되어, 작은 복잡한 구조에서의 성능 향상을 확인했습니다.
• RUCB는 60,000회 반복 후에도 DSC 74.07%를 기록했으며, UCB가 80,000회 반복 훈련한 것보다 뛰어나 훈련 효율성이 높음을 시사했습니다.
• OHEM는 Uniform보다 성능이 열 劣하므로, 가장 높은 손실 기반 직접 샘플링 전략은 비효율적이며 노이즈를 증폭시킬 수 있음을 시사합니다.
• 시각적 분석 결과, UCB는 종종 애너테이션 오류가 있는 샘플(예: 잘못된 대장 레이블링)을 자주 선택하는 반면, RUCB는 가장 도전적이지만 정확하게 애너테이션된 사례만 선택함을 확인했습니다.