[논문 리뷰] Plexus Convolutional Neural Network (PlexusNet): A novel neural network architecture for histologic image analysis

Okyaz Eminağa, Mahmoud Abbas외 6명|arXiv (Cornell University)|2019. 08. 23.

AI in cancer detection인용 수 4

한 줄 요약

PlexusNet는 히스토로지적 영상 분석을 위한 새로운 경량 컨볼루션 신경망 아키텍처로, 파rameter 수를 크게 줄였음에도 불구하고 최신 기준 분류 성능을 달성한다. 더 큰 모델들보다 캘리브레이션과 임상적 유용성에서 뛰어나며, 전립선암 검출의 AUC는 0.963, 유방암 전이 검출의 AUC는 0.978를 기록한다. ResNet18 대비 최대 200배 작다.

ABSTRACT

Different convolutional neural network (CNN) models have been tested for their application in histological image analyses. However, these models are prone to overfitting due to their large parameter capacity, requiring more data or valuable computational resources for model training. Given these limitations, we introduced a novel architecture (termed PlexusNet). We utilized 310 Hematoxylin and Eosin stained (H&E) annotated histological images of prostate cancer cases from TCGA-PRAD and Stanford University and 398 H&E whole slides images from the Camelyon 2016 challenge. PlexusNet-architecture -derived models were compared to models derived from several existing "state of the art" architectures. We measured discrimination accuracy, calibration, and clinical utility. An ablation study was conducted to study the effect of each component of PlexusNet on model performance. A well-fitted PlexusNet-based model delivered comparable classification performance (AUC: 0.963) in distinguishing prostate cancer from healthy tissues, although it was at least 23 times smaller, had a better model calibration and clinical utility than the comparison models. A separate smaller PlexusNet model accurately detected slides with breast cancer metastases (AUC: 0.978); it helped reduce the slide number to examine by 43.8% without consequences, although its parameter capacity was 200 times smaller than ResNet18. We found that the partitioning of the development set influences the model calibration for all models. However, with PlexusNet architecture, we could achieve comparable well-calibrated models trained on different partitions. In conclusion, PlexusNet represents a novel model architecture for histological image analysis that achieves classification performance comparable to other models while providing orders-of-magnitude parameter reduction.

연구 동기 및 목표

• 히스토로지적 영상 분석에서 과적합과 높은 계산 요구량 문제를 해결하기 위해 더 작고 효율적인 신경망 아키텍처를 설계하기 위해.
• 기존 최신 기준 모델들과 비교해 모델의 캘리브레이션과 임상적 유용성을 향상시키기 위해.
• 데이터 분할 방식이 모델의 캘리브레이션에 미치는 영향을 평가하고, 다양한 학습 분할에 걸쳐 강건성을 확보하기 위해.
• 전체 슬라이드 영상 분석에서 최소한의 파rameter 용량으로 높은 분류 정확도를 달성하기 위해.
• 진단 정확도를 잃지 않으면서도 수동 검토가 필요한 슬라이드 수를 줄여 효율적인 스크리닝을 가능하게 하기 위해.

제안 방법

• 더 적은 파rameter로도 표현 능력을 향상시킬 수 있는 계층적이고 다중 척도의 특징 집약 메커니즘을 갖춘 새로운 신경망 아키텍처인 PlexusNet을 제안하였다.
• 모델의 캘리브레이션과 일반화에 대한 데이터 분할의 영향을 연구하기 위해 분할된 학습 전략을 사용하였다.
• 자원이 제한된 환경을 고려해 추론 효율성과 파rameter 효율성을 최적화한 PlexusNet의 컴팩트한 변형을 설계하였다.
• TCGA-PRAD 및 스탠포드에서 확보한 310장의 H&E 염색 전립선암 슬라이드와 Camelyon 2016 챌린지에서 확보한 398장의 전체 슬라이드를 사용해 모델을 학습하고 평가하였다.
• 각 아키텍처 구성 요소가 전체 성능에 기여하는 정도를 분리하여 평가하기 위해 아블레이션 연구를 수행하였다.
• PlexusNet을 ResNet18 같은 기존 기준 아키텍처와 비교하기 위해 AUC, 캘리브레이션 지표, 임상적 유용성 점수를 사용하였다.

실험 결과

연구 질문

• RQ1 더 작은 신경망 아키텍처가 히스토로지적 영상 분석에서 더 큰 최신 기준 모델들과 유사한 분류 성능을 달성할 수 있는가?
• RQ2 학습 세트의 분할 방식이 다양한 아키텍처에서 모델의 캘리브레이션에 어떤 영향을 미치는가?
• RQ3 PlexusNet 아키텍처가 기존 모델들과 비교해 모델의 캘리브레이션과 임상적 유용성을 얼마나 향상시키는가?
• RQ4 PlexusNet의 컴팩트한 버전이 암 스크리닝에서 수동 검토가 필요한 슬라이드 수를 효과적으로 줄일 수 있는가?
• RQ5 PlexusNet의 각 아키텍처 구성 요소가 전체 성능와 효율성에 기여하는 정도는 어떠한가?

주요 결과

• 적절하게 피팅된 PlexusNet 기반 모델은 전립선암과 정상 조직을 구분하는 데 AUC 0.963을 달성했으며, 더 큰 모델들과 동등한 성능을 보였다.
• 동일한 모델는 비교 모델들보다 최소 23배 작았고, 더 나은 캘리브레이션과 임상적 유용성을 보였다.
• 더 작은 PlexusNet 변형은 유방암 전이 검출에서 AUC 0.978를 기록했으며, 정확도를 잃지 않고 검토가 필요한 슬라이드 수를 43.8% 감소시켰다.
• 이 컴팩트한 모델는 높은 성능를 유지하면서도 ResNet18 대비 파rameter 수가 200배 적었다.
• PlexusNet는 기존 기준 모델이 분할 방식의 변화에 민감한 것과는 달리, 다양한 데이터 분할 방식에서도 잘 캘리브레이션된 모델을 달성했다.
• 아블레이션 연구를 통해 각 아키텍처 구성 요소가 성능에 의미 있는 기여를 했음을 확인했으며, 특히 특징 집약과 파rameter 효율성 측면에서 두드러졌다.