[논문 리뷰] Ensemble of CNN classifiers using Sugeno Fuzzy Integral Technique for Cervical Cytology Image Classification

Rohit Kundu, Hritam Basak외 4명|arXiv (Cornell University)|2021. 08. 21.

AI in cancer detection참고 문헌 29인용 수 8

한 줄 요약

이 논문은 사전 훈련된 세 개의 CNN(Inception v3, DenseNet-161, ResNet-34)의 결정 점수를 조합하기 위해 Sugeno 퍼지 적분을 사용하는 새로운 퍼지 앙상블 방법을 제안한다. 결정 점수의 신뢰도에 기반해 분류기들을 적응적으로 가중하는 방식으로, Mendeley LBC 데이터셋에서 기존의 최고 성능 기록인 99.48%의 정확도를 달성하며, 전통적인 융합 기법과 개별 모델을 모두 초월한다.

ABSTRACT

Cervical cancer is the fourth most common category of cancer, affecting more than 500,000 women annually, owing to the slow detection procedure. Early diagnosis can help in treating and even curing cancer, but the tedious, time-consuming testing process makes it impossible to conduct population-wise screening. To aid the pathologists in efficient and reliable detection, in this paper, we propose a fully automated computer-aided diagnosis tool for classifying single-cell and slide images of cervical cancer. The main concern in developing an automatic detection tool for biomedical image classification is the low availability of publicly accessible data. Ensemble Learning is a popular approach for image classification, but simplistic approaches that leverage pre-determined weights to classifiers fail to perform satisfactorily. In this research, we use the Sugeno Fuzzy Integral to ensemble the decision scores from three popular pretrained deep learning models, namely, Inception v3, DenseNet-161 and ResNet-34. The proposed Fuzzy fusion is capable of taking into consideration the confidence scores of the classifiers for each sample, and thus adaptively changing the importance given to each classifier, capturing the complementary information supplied by each, thus leading to superior classification performance. We evaluated the proposed method on three publicly available datasets, the Mendeley Liquid Based Cytology (LBC) dataset, the SIPaKMeD Whole Slide Image (WSI) dataset, and the SIPaKMeD Single Cell Image (SCI) dataset, and the results thus yielded are promising. Analysis of the approach using GradCAM-based visual representations and statistical tests, and comparison of the method with existing and baseline models in literature justify the efficacy of the approach.

연구 동기 및 목표

• 딥 러닝 기반 분류에 있어 공개된 자궁경부 세포도 데이터셋의 가용성 부족 문제를 해결한다.
• 고정 또는 히우리스틱 가중치를 사용하는 단순 앙상블 기법을 넘어서 분류 성능을 향상시킨다.
• 개별 분류기의 신뢰도 점수에 기반해 분류기 중요도를 동적으로 조정하는 적응형 융합 전략을 개발한다.
• 딥 러닝과 퍼지 논리 기반의 자동 자궁경부암 스크리닝에서 진단 정확도와 신뢰도를 향상시킨다.
• 단일 세포 및 전체 슬라이드 이미지를 포함한 여러 벤치마크 데이터셋에서 뛰어난 성능을 입증하여 임상 현장 적용 가능성을 높인다.

제안 방법

• 특징 추출 및 결정 점수 생성을 위해 전이 학습 기반으로 세 개의 사전 훈련된 CNN 아키텍처(Inception v3, DenseNet-161, ResNet-34)를 사용한다.
• 다중 분류기의 결정 점수를 융합하기 위해 비가산적인 퍼지 측도로써 Sugeno 퍼지 적분을 활용한다. 이는 상호보완적인 정보를 포착할 수 있다.
• 퍼지 적분은 각 모델의 신뢰도와 신뢰도 점수를 반영한 퍼지 측도를 사용하여 개별 샘플에 대해 분류기 출력를 통합함으로써 최종 예측을 계산한다.
• 퍼지 측도는 검증 세트에서 각 분류기의 성능에 기반하여 유도되며, 입력 샘플에 따라 분류기의 재가중치를 동적으로 조정할 수 있다.
• 모델 결정의 해석 가능성을 높이기 위해 Grad-CAM을 적용하여 주의 맵을 분석한다.
• 성능 향상의 유의미성을 확인하기 위해 McNemar의 검정을 통계적 검증에 활용한다.

실험 결과

연구 질문

• RQ1 기존의 융합 기법과 비교해 퍼지 적분 기반 앙상블 방법이 자궁경부 세포도 분석의 분류 정확도 향상에 기여하는가?
• RQ2 분류기의 신뢰도 점수에 기반한 적응형 가중치 전략이 소규모이고 불균형한 생물의학적 데이터셋에서 성능에 어떤 영향을 미치는가?
• RQ3 고정 가중치 또는 다수결의 앙상블 전략에 비해 Sugeno 퍼지 적분이 자궁경부암 분류에서 얼마나 뛰어난 성능을 보이는가?
• RQ4 다중-CNN 앙상블 환경에서 모델 고유의 신뢰도 점수가 최종 융합 결과에 어떤 영향을 미치는가?
• RQ5 Grad-CAM을 통해 생성된 시각적 주의 맵은 잘못 분류되거나 올바르게 분류된 샘플에서 임상 진단 특징과 어떻게 관련이 있는가?

주요 결과

• 제안된 Sugeno 퍼지 적분 기반 앙상블은 Mendeley LBC 데이터셋에서 99.48%의 분류 정확도를 달성하였으며, 개별 모델 및 기준 융합 방법을 크게 능가하였다.
• SIPaKMeD WSI 데이터셋에서는 96.33%의 정확도를 기록하여 복잡한 세포 형태를 가진 전체 슬라이드 이미지에 대해서도 뛰어난 강건성을 보였다.
• SIPaKMeD SCI 데이터셋에서는 98.54%의 정확도를 달성하여 이미지 품질의 변동에도 불구하고 뛰어난 일반화 능력을 입증하였다.
• McNemar의 검정을 통해 모든 비교에서 통계적으로 유의미한 결과(p < 0.05)를 도출하였으며, 귀무가설을 기각함으로써 개별 분류기보다 앙상블의 우월성을 입증하였다.
• Grad-CAM 시각화 결과, 모델이 생물학적으로 관련 있는 영역(예: 세포핵, 세 cytoplasm)에 주로 주의를 기울이고 있음을 확인하여 모델의 해석 가능성과 임상적 신뢰도를 향상시켰다.
• 오류 분류의 주요 원인은 모델의 실패가 아니라 이미지 수준의 레이블 불확실성, 한 장의 이미지에 여러 세포 유형이 혼재되어 있거나, 이미지 품질이 열 劣한 경우였다.