[논문 리뷰] Reversed Active Learning based Atrous DenseNet for Pathological Image Classification

Yuexiang Li, Xinpeng Xie외 2명|arXiv (Cornell University)|2018. 07. 06.

AI in cancer detection참고 문헌 22인용 수 5

한 줄 요약

이 논문은 병리 영상 분류를 위한 새로운 프레임워크를 제안한다. 이 프레임워크는 뒤집힌 활성 학습(Reversed Active Learning, RAL)과 아트로스 딥넷(Atrous DenseNet, ADN)을 결합한다. RAL은 학습 데이터에서 잘못 레이블이 붙은 패치를 걸러내며, ADN은 밀집 블록에 아트로스 컨볼루션을 적용하여 다중 척도 특징 추출을 수행한다. 이로 인해 BACH 및 CCG 데이터셋에서 각각 평균 패치 수준 정확도 94.10%와 92.05%를 달성한다.

ABSTRACT

Witnessed the development of deep learning in recent years, increasing number of researches try to adopt deep learning model for medical image analysis. However, the usage of deep learning networks for the pathological image analysis encounters several challenges, e.g. high resolution (gigapixel) of pathological images and lack of annotations of cancer areas. To address the challenges, we proposed a complete framework for the pathological image classification, which consists of a novel training strategy, namely reversed active learning (RAL), and an advanced network, namely atrous DenseNet (ADN). The proposed RAL can remove the mislabel patches in the training set. The refined training set can then be used to train widely used deep learning networks, e.g. VGG-16, ResNets, etc. A novel deep learning network, i.e. atrous DenseNet (ADN), is also proposed for the classification of pathological images. The proposed ADN achieves multi-scale feature extraction by integrating the atrous convolutions to the Dense Block. The proposed RAL and ADN have been evaluated on two pathological datasets, i.e. BACH and CCG. The experimental results demonstrate the excellent performance of the proposed ADN + RAL framework, i.e. the average patch-level ACAs of 94.10% and 92.05% on BACH and CCG validation sets were achieved.

연구 동기 및 목표

• 고해상도, 기가픽셀 수준의 병리 영상에서 암 부위가 제한적으로 레이블링된 경우의 과제를 해결하기 위해.
• 병리 영상 데이터셋에서 잘못 레이블이 붙은 패치로 인한 학습 데이터의 노이즈를 줄이기 위해.
• 히스토파스ولوج적 영상 분석을 위한 효과적인 다중 척도 특징 추출이 가능한 딥 러닝 아키텍처를 개발하기 위해.
• 개선된 학습 전략과 고도화된 네트워크 설계를 통해 병리 영상 데이터셋의 분류 성능을 향상시키기 위해.
• 실세계 병리 영상 벤치마크인 BACH 및 CCG와 같은 데이터셋에서 제안된 프레임워크를 검증하기 위해.

제안 방법

• 뒤집힌 활성 학습(Reversed Active Learning, RAL)을 도입하여 불확실성 및 이견 지표를 활용해 학습 세트에서 잘못 레이블이 붙은 패치를 식별하고 제거한다.
• 아트로스 딥넷(Atrous DenseNet, ADN)은 딥넷 아키텍처에 팽창(convolution)된(아트로스) 컨볼루션을 통합하여 파라미터 수를 늘리지 않고도 수감 범위를 확장한다.
• ADN의 밀집 블록은 아트로스 컨볼루션을 사용하도록 수정되어 단일 네트워크에서 다중 척도 특징 학습이 가능해진다.
• RAL에서 얻은 개선된 학습 세트를 사용해 VGG-16 및 ResNets와 같은 딥 네트워크를 훈련시켜 병리 영상에서의 일반화 능력을 향상시킨다.
• 프레임워크는 두 개의 병리 영상 데이터셋인 BACH 및 CCG에서 종단 간(end-to-end)으로 훈련 및 평가된다.
• 이중 단계 훈련 과정을 사용한다: 첫 번째 단계에서 RAL이 데이터셋을 정제하고, 두 번째 단계에서 정제된 데이터로 ADN을 훈련하여 분류를 수행한다.

실험 결과

연구 질문

• RQ1 뒤집힌 활성 학습 전략이 병리 영상 데이터셋에서 잘못 레이블이 붙은 패치를 효과적으로 탐지하고 제거할 수 있는가?
• RQ2 딥넷에 아트로스 컨볼루션을 통합함으로써 히스토파스ولوج적 영상 분류를 위한 다중 척도 특징 추출이 어떻게 향상되는가?
• RQ3 제안된 ADN + RAL 프레임워크는 벤치마크 병리 영상 데이터셋에서 어떤 성능 향상을 달성하는가?
• RQ4 RAL을 통한 데이터 정제와 ADN과 같은 특수화된 네트워크 아키텍처의 조합이 기존 딥 러닝 모델보다 더 나은 일반화 성능을 내는가?
• RQ5 제한된 레이블이 붙은 암 부위가 있는 고해상도, 기가픽셀 수준의 병리 영상에서도 프레임워크가 높은 정확도를 유지할 수 있는가?

주요 결과

• 제안된 RAL 전략은 잘못 레이블이 붙은 패치를 성공적으로 식별하고 제거하여 학습 데이터 품질 향상과 모델 일반화 능력 향상을 이룬다.
• 아트로스 딥넷(ADN)은 밀집 블록 내에서 패널링된 컨볼루션을 활용해 다중 척도 맥락 집약을 통해 뛰어난 특징 표현 능력을 달성한다.
• BACH 데이터셋에서 ADN + RAL 프레임워크는 검증 세트에서 평균 패치 수준 정확도 94.10%를 달성했다.
• CCG 데이터셋에서 프레임워크는 검증 세트에서 평균 패치 수준 정확도 92.05%에 도달했다.
• 제한된 암 부위 레이블이 있는 경우에도 프레임워크는 높은 성능를 유지하여 희소 레이블링에 대한 강건성을 보였다.
• RAL을 통한 데이터 정제와 특수화된 네트워크 아키텍처의 조합은 VGG-16 및 ResNets와 같은 표준 모델에 비해 일관된 성능 향상을 이룬다.