[논문 리뷰] Joint Liver Lesion Segmentation and Classification via Transfer Learning

Michal Heker, Hayit Greenspan|arXiv (Cornell University)|2020. 04. 26.

COVID-19 diagnosis using AI참고 문헌 9인용 수 5

한 줄 요약

이 논문은 전이 학습과 U-Net 기반의 SE-ResNet 백본을 활용한 공동 학습을 통한 공동 간병성 병변 세분화 및 분류 프레임워크를 제안한다. 간단한 공동 학습 접근 방식이 표준 Y-Net 다중 작업 아키텍처를 능가하며, LiTS 데이터셋에서 미세 조정을 수행했을 때 분류 정확도는 10% 향상되고 세분화 재현율은 4% 향상되어, 소규모 의료 영상 데이터셋에서 도메인 특화 사전 훈련과 공유 특징 학습의 이점을 입증한다.

ABSTRACT

Transfer learning and joint learning approaches are extensively used to improve the performance of Convolutional Neural Networks (CNNs). In medical imaging applications in which the target dataset is typically very small, transfer learning improves feature learning while joint learning has shown effectiveness in improving the network's generalization and robustness. In this work, we study the combination of these two approaches for the problem of liver lesion segmentation and classification. For this purpose, 332 abdominal CT slices containing lesion segmentation and classification of three lesion types are evaluated. For feature learning, the dataset of MICCAI 2017 Liver Tumor Segmentation (LiTS) Challenge is used. Joint learning shows improvement in both segmentation and classification results. We show that a simple joint framework outperforms the commonly used multi-task architecture (Y-Net), achieving an improvement of 10% in classification accuracy, compared to a 3% improvement with Y-Net.

연구 동기 및 목표

• 소규모 의료 영상 데이터셋에서 공동 학습과 전이 학습을 활용하여 간 병변 세분화 및 분류 성능을 향상시키는 것.
• 모델 일반화 및 수렴에 영향을 주는 다양한 사전 훈련 전략—무작위, ImageNet, LiTS—의 효과를 평가하는 것.
• 표준 Y-Net 다중 작업 아키텍처와 비교하여 단순한 공동 학습 프레임워크의 세분화 및 분류 정확도를 평가하는 것.
• 세분화 및 분류 작업 간 공유 표현 학습이 낮은 데이터 환경에서 성능 향상에 기여하는지 조사하는 것.
• 유사 도메인 데이터셋(LiTS)에서의 전이 학습이 간 병변 분석을 위한 우수한 특징 표현을 제공함을 입증하는 것.

제안 방법

• 잔차 연결과 압축-흥장 블록을 통합한 SE-ResNet 인코더를 갖춘 U-Net 아키텍처를 사용하여 특징 학습을 향상시킨다.
• 두 가지 주요 프레임워크를 제안한다: 별도의 세분화 및 분류 헤드를 갖춘 다중 작업 Y-Net 유사 아키텍처와, 병변 유형에 대해 다수결 투표를 통한 픽셀 수준 분류 방식으로 세분화를 수행하는 공동 학습 프레임워크.
• 공동 학습 프레임워크는 세분화 및 분류에 동일한 가중치가 부여된 교차 엔트로피 손실을 사용하며, 클래스 빈도의 역수 비례로 클래스 가중치를 설정하여 클래스 불균형 문제를 완화한다.
• 세 가지 초기화 전략—무작위, ImageNet 사전 훈련, LiTS 데이터셋에서의 간 병변 세분화를 위한 사전 훈련—을 활용하여 전이 학습을 적용한다.
• 두 단계로 구성된 계단식 접근 방식을 사용한다: 먼저 LiTS로 훈련된 모델이 간을 세분화하고, 그 다음 간 ROI 영역을 추출하여 주 모델의 입력으로 사용함으로써 클래스 불균형 문제를 줄인다.
• 3겹 교차 검증을 사용하여 332개의 Abdominal CT 슬라이스(3종류의 병변: 75개의 낭종, 71개의 혈관종, 93개의 전이성 병변)로 구성된 비공개 데이터셋을 평가한다.

실험 결과

연구 질문

• RQ1 세분화 및 분류 간 공동 학습이 각 작업을 별도로 훈련하는 것보다 성능을 향상시키는가?
• RQ2 유사 도메인 데이터셋(LiTS)에서의 사전 훈련이 간 병변 분석에서 ImageNet 또는 무작위 초기화보다 더 우수한 특징 표현을 제공하는가?
• RQ3 단순한 공동 학습 프레임워크는 표준 Y-Net 다중 작업 아키텍처와 비교해 세분화 및 분류 정확도에서 어떤가?
• RQ4 LiTS에서의 전이 학습이 소규모 의료 영상 데이터셋에서 수렴성과 일반화 능력을 얼마나 향상시키는가?
• RQ5 세분화 및 분류 작업 간 공유 표현 학습이 상호 성능 향상에 기여하는가?

주요 결과

• LiTS 데이터셋에서 미세 조정한 공동 학습 프레임워크는 86%의 분류 정확도를 달성하여 기준 모델 대비 10% 향상되고 Y-Net 아키텍처 대비 3% 향상되었다.
• 공동 학습 프레임워크는 딱시 스코어 0.71, 재현율 0.76를 기록하여 Y-Net의 0.71 딱시 스코어와 0.68 재현율을 능가했으며, 재현율은 4% 향상되었다.
• LiTS 데이터셋에서의 미세 조정은 ImageNet 또는 무작위 초기화보다 수렴 속도가 빠르고 일반화 능력이 뛰어났으며, 특히 낮은 데이터 환경에서 두드러졌다.
• Y-Net 다중 작업 아키텍처는 기준 모델 대비 분류 정확도를 3% 향상시켰지만, 단순한 공동 학습 프레임워크는 분류 정확도에서 10% 높은 성능을 기록했다.
• LiTS 데이터셋에서의 사전 훈련은 모델 성능을 크게 향상시켜 의료 영상 분석에서 도메인 특화 전이 학습의 가치를 입증했다.
• 결과는 세분화 및 분류 작업 간 공유 특징 학습이 상호 성능 향상에 기여하며, 특히 관련 작업에서의 전이 학습과 결합할 경우 더욱 두드러진다는 것을 확인시켰다.