[논문 리뷰] Learning from Multiple Datasets with Heterogeneous and Partial Labels for Universal Lesion Detection in CT

Ke Yan, Jinzheng Cai외 8명|arXiv (Cornell University)|2020. 09. 05.

Radiomics and Machine Learning in Medical Imaging참고 문헌 67인용 수 9

한 줄 요약

이 논문은 다양한 이질적이고 부분적으로 레이블이 부여된 CT 데이터셋을 통합하여 보편적인 병변 탐지에 활용하는 다중 작업 학습 프레임워크인 Lesion ENSemble (LENS)를 제안한다. 여러 데이터셋 전용 검출기에서 유도된 후보 영역을 융합하고 임상 전문 지식 및 다중 데이터셋 간 지식 전이를 통해 누락된 레이블을 추출함으로써, LENS는 DeepLesion에서 최신 기술 대비 평균 감도에서 49% 상대적 향상을 달성한다.

ABSTRACT

Large-scale datasets with high-quality labels are desired for training accurate deep learning models. However, due to the annotation cost, datasets in medical imaging are often either partially-labeled or small. For example, DeepLesion is such a large-scale CT image dataset with lesions of various types, but it also has many unlabeled lesions (missing annotations). When training a lesion detector on a partially-labeled dataset, the missing annotations will generate incorrect negative signals and degrade the performance. Besides DeepLesion, there are several small single-type datasets, such as LUNA for lung nodules and LiTS for liver tumors. These datasets have heterogeneous label scopes, i.e., different lesion types are labeled in different datasets with other types ignored. In this work, we aim to develop a universal lesion detection algorithm to detect a variety of lesions. The problem of heterogeneous and partial labels is tackled. First, we build a simple yet effective lesion detection framework named Lesion ENSemble (LENS). LENS can efficiently learn from multiple heterogeneous lesion datasets in a multi-task fashion and leverage their synergy by proposal fusion. Next, we propose strategies to mine missing annotations from partially-labeled datasets by exploiting clinical prior knowledge and cross-dataset knowledge transfer. Finally, we train our framework on four public lesion datasets and evaluate it on 800 manually-labeled sub-volumes in DeepLesion. Our method brings a relative improvement of 49% compared to the current state-of-the-art approach in the metric of average sensitivity. We have publicly released our manual 3D annotations of DeepLesion in https://github.com/viggin/DeepLesion_manual_test_set.

연구 동기 및 목표

• 다양한 의료 영상 데이터셋에서 이질적이고 부분적으로 레이블이 부여된 데이터를 바탕으로 보편적인 병변 탐지기 모델을 훈련시키는 과제를 해결하기 위해.
• 다양한 레이블 범위와 레이블 품질을 가진 다양한 데이터셋 간의 상호보완적 특성을 활용하여 병변 탐지 성능을 향상시키기 위해.
• 다양한 기관에서 발생하는 다양한 유형의 병변을 CT 영상에서 넓은 범위로 탐지할 수 있는 방법을 개발하여 방사선의사의 워크플로우를 모방하기 위해.
• DeepLesion과 같은 대규모 데이터셋에서 누락된 레이블로 인한 성능 저하를 완화하기 위해.

제안 방법

• LENS는 여러 데이터셋 전용 병변 탐지기 간 공유되는 특징을 활용하면서도, 각 전문가의 영역 후보를 융합하여 탐지 민감도를 향상시키는 다중 작업 학습 프레임워크를 사용한다.
• 다양한 데이터셋 전문가의 검출 결과를 집계하여 병변 유형 전반에 걸쳐 재현율을 향상시키는 후보 영역 융합 전략을 사용한다.
• 부분적으로 레이블이 부여된 데이터셋의 누락된 레이블은 병변 크기, 위치, 해부학적 타당성과 같은 임상 전문 지식을 활용하여 탐색한다.
• 잘 레이블이 부여된 데이터셋(예: LUNA, LiTS)에서 부족하게 레이블이 부여된 데이터셋(예: DeepLesion)으로 탐지 지식을 전이하기 위해 다중 데이터셋 간 지식 전이 기법을 적용한다.
• 개별 전문가에서 유도된 오류 탐지 결과를 억제하기 위해 가짜 양성 감지기 분류기를 사용하여 정밀도를 향상시킨다.
• 프레임워크는 네 개의 공개 데이터셋(DepthLesion, LUNA, LiTS 및 기타)에서 훈련되었으며, DeepLesion의 수작업으로 정제된 800개의 서브볼륨으로 구성된 테스트 세트에서 평가되었다.

실험 결과

연구 질문

• RQ1 레이블 범위와 레이블 완전성에 차이가 있는 다양한 이질적 병변 데이터셋에서 효과적으로 학습할 수 있는 통합 딥러닝 프레임워크는 가능한가?
• RQ2 수동 재레이블링 없이 부분적으로 레이블이 부여된 데이터셋의 누락된 레이블을 효과적으로 복구할 수 있는가?
• RQ3 다양한 데이터셋 간 공동 학습은 잘 레이블이 부여된 병변 유형뿐 아니라 레이블이 부족한 병변 유형의 탐지 성능을 향상시킬 수 있는가?
• RQ4 여러 데이터셋 전용 전문가 간의 후보 영역 융합이 보편적인 병변 탐지에서 민감도 향상에 얼마나 기여하는가?
• RQ5 임상 전문 지식과 다중 데이터셋 간 지식 전이 기법이 자료가 부족한 상황에서 탐지 성능 향상에 기여할 수 있는가?

주요 결과

• LENS는 DeepLesion 테스트 세트에서 최신 기술 대비 평균 감도에서 49% 상대적 향상을 달성하여 뚜렷한 성능 향상을 입증했다.
• 다양한 데이터셋에서 공동 훈련을 수행함으로써, 특히 훈련 데이터가 제한된 경우 단일 유형 데이터셋 전반에서 탐지 성능이 일관되게 향상되었다.
• 공식 평가 지표에 따라 LUNA 벤치마크에서 평균 감도 0.898을 기록하여, 앙상블 기법이나 특수 후처리 기법 없이도 62개 팀 중 6위를 기록했다.
• 다양한 데이터셋 전문가의 후보 영역 융합을 통해 재현율이 크게 향상되었으며, 특히 단일 전문가 모델이 놓친 희귀하거나 미세한 병변에 대해 뚜렷한 개선 효과를 보였다.
• 임상 전문 지식과 다중 데이터셋 간 지식 전이 기법의 통합을 통해 누락된 레이블을 효과적으로 탐색할 수 있었으며, 부분 레이블링의 부정적 영향을 줄였다.
• 프레임워크는 다양한 병변 유형과 해부학적 위치에서의 데이터 분포 변화에 대해 강건성을 보였으며, 다양한 조건에서의 일반화 능력이 향상되었다.