[논문 리뷰] Exploiting Shared Knowledge from Non-COVID Lesions for Annotation-Efficient COVID-19 CT Lung Infection Segmentation

Yichi Zhang, Qingcheng Liao외 4명|arXiv (Cornell University)|2020. 12. 31.

COVID-19 diagnosis using AI참고 문헌 39인용 수 5

한 줄 요약

이 논문은 공유된 특징을 비코로나19 폐 병변으로부터 활용하여 annotation 효율성이 높은 코로나19 CT 폐 감염 부위 분할을 향상시키는 관계 기반 공동 학습 모델을 제안한다. 일반형과 작업 특화형 두 개의 인코더를 사용하고, 특징 간 관계 일관성을 강제함으로써, 제한된 비코로나19 CT 데이터로도 최신 기술 수준(SOTA) 성능을 달성하며, 최대 3.0% 높은 Dice 점수와 4.2% 높은 정규화된 표면 Dice 점수를 기록한다.

ABSTRACT

The novel Coronavirus disease (COVID-19) is a highly contagious virus and has spread all over the world, posing an extremely serious threat to all countries. Automatic lung infection segmentation from computed tomography (CT) plays an important role in the quantitative analysis of COVID-19. However, the major challenge lies in the inadequacy of annotated COVID-19 datasets. Currently, there are several public non-COVID lung lesion segmentation datasets, providing the potential for generalizing useful information to the related COVID-19 segmentation task. In this paper, we propose a novel relation-driven collaborative learning model to exploit shared knowledge from non-COVID lesions for annotation-efficient COVID-19 CT lung infection segmentation. The model consists of a general encoder to capture general lung lesion features based on multiple non-COVID lesions, and a target encoder to focus on task-specific features based on COVID-19 infections. Features extracted from the two parallel encoders are concatenated for the subsequent decoder part. We develop a collaborative learning scheme to regularize feature-level relation consistency of given input and encourage the model to learn more general and discriminative representation of COVID-19 infections. Extensive experiments demonstrate that trained with limited COVID-19 data, exploiting shared knowledge from non-COVID lesions can further improve state-of-the-art performance with up to 3.0% in dice similarity coefficient and 4.2% in normalized surface dice. Our proposed method promotes new insights into annotation-efficient deep learning for COVID-19 infection segmentation and illustrates strong potential for real-world applications in the global fight against COVID-19 in the absence of sufficient high-quality annotations.

연구 동기 및 목표

• 폐 감염 분할을 위한 고품질의 레이블이 부족한 비코로나19 CT 스캔 문제를 해결한다.
• 공개된 비코로나19 폐 병변 데이터셋을 활용하여 모델의 일반화 능력을 향상시키고 annotation 의존도를 낮춘다.
• 비코로나19와 코로나19 폐 병변 간 공유된 의미적 지식을 효과적으로 전이하는 방법을 개발한다.
• 특징 수준의 관계 정규화를 통해 소수의 레이블이 있는 코로나19 사례에서도 견고한 분할 성능을 달성한다.

제안 방법

• 일반형 인코더와 작업 특화형 인코더로 구성된 이중 인코더 아키텍처를 적용한다: 일반형 인코더는 여러 비코로나19 폐 병변 데이터셋으로 훈련되어 공유된 병변 특징을 학습하고, 작업 특화형 인코더는 제한된 코로나19 데이터로 미세조정되어 작업 특화된 표현을 학습한다.
• 두 인코더의 특징을 연결하여 얻은 특징을 기반으로 공통 디코더를 사용해 분할 마스크를 재구성한다.
• 동일한 입력에 대해 일반형 인코더와 작업 특화형 인코더 간 특징 수준의 관계 일관성을 강제하는 공동 학습 기반을 도입한다.
• 일반형 및 작업 특화형 특징의 관계 행렬 간 절대 차이를 최소화하여 모델을 정규화함으로써, 분류 가능하고 일반화 가능한 표현을 촉진한다.
• 같은 관계 정규화를 적용하여 비라벨 코로나19 스캔을 활용함으로써, 반감독 학습으로 확장한다.
• 분할 성능을 최적화하기 위해 교차 엔트로피 손실과 Dice 손실의 조합을 사용해 모델을 엔드 투 엔드로 훈련한다.

실험 결과

연구 질문

• RQ1 비코로나19 폐 병변에서 유래한 공유 지식이 자원이 제한된 코로나19 CT 영상 분할 상황에서 성능 향상에 기여할 수 있는가?
• RQ2 일반형 및 작업 특화형 인코더 간 특징 수준의 관계 일관성이 모델의 강건성과 일반화 능력을 얼마나 효과적으로 향상시킬 수 있는가?
• RQ3 비라벨 코로나19 스캔을 얼마나 효과적으로 활용하여 관계 정규화와 분할 정확도를 향상시킬 수 있는가?
• RQ4 제안된 방법이 기존 최신 기술 수준의 접근 방식보다 annotation 효율성이 높은 코로나19 폐 감염 부위 분할에서 승리하는가?

주요 결과

• 제한된 레이블이 있는 코로나19 데이터로 훈련되었을 때, 제안된 방법은 최신 기술 수준의 방법 대비 최대 3.0% 높은 Dice 유사도 계수와 4.2% 높은 정규화된 표면 Dice 점수를 기록한다.
• 2D 및 3D 데이터셋 모두에서 모든 평가 지표에서 기존 분할 방법보다 뚜렷이 뛰어난 성능을 보이며, 강력한 일반화 능력과 강건성을 입증한다.
• 공동 학습 기반은 일반형 및 작업 특화형 인코더 간 일관된 관계를 강제함으로써 훈련을 안정화시키고 특징 표현을 향상시킨다.
• 레이블이 없더라도 이 방법은 비라벨 코로나19 스캔을 활용해 관계 정규화를 향상시키고 일관된 성능 향상을 달성할 수 있다.
• 특징 관계 행렬의 시각화 결과, 모델이 훈련이 진행됨에 따라 점점 더 분류 가능하고 안정적인 표현을 학습하는 것으로 나타났으며, 특히 작업 특화형 인코더에서 두드러진다.
• 병변의 형태, 크기, 위치의 큰 변동성에도 불구하고 이 방법은 효과적으로 유지되어 어려운 임상 사례에 대한 강력한 적응 능력을 보여준다.