[논문 리뷰] Feature based Sequential Classifier with Attention Mechanism

Sudhir Sornapudi, R. Joe Stanley외 6명|arXiv (Cornell University)|2020. 07. 22.

Handwritten Text Recognition Techniques참고 문헌 29인용 수 6

한 줄 요약

이 논문은 고해상도 표피 이미지를 사용하여ervical 내피세포 이상성(CIN) 등급을 평가하기 위한 새로운 주의 기반 순차 분류기인 DeepCIN을 제안한다. 이는 표피의 바닥에서 꼬리로 향하는 질병 진행을 두 단계의 인코더를 통해 수직 세그먼트 특징 시퀀스로 모델링하고, 주의 메커니즘을 통해 융합하여 병리학자 수준의 정확도로 CIN 등급(정상, CIN1, CIN2, CIN3)을 분류한다.

ABSTRACT

Cervical cancer is one of the deadliest cancers affecting women globally. Cervical intraepithelial neoplasia (CIN) assessment using histopathological examination of cervical biopsy slides is subject to interobserver variability. Automated processing of digitized histopathology slides has the potential for more accurate classification for CIN grades from normal to increasing grades of pre-malignancy: CIN1, CIN2 and CIN3. Cervix disease is generally understood to progress from the bottom (basement membrane) to the top of the epithelium. To model this relationship of disease severity to spatial distribution of abnormalities, we propose a network pipeline, DeepCIN, to analyze high-resolution epithelium images (manually extracted from whole-slide images) hierarchically by focusing on localized vertical regions and fusing this local information for determining Normal/CIN classification. The pipeline contains two classifier networks: 1) a cross-sectional, vertical segment-level sequence generator (two-stage encoder model) is trained using weak supervision to generate feature sequences from the vertical segments to preserve the bottom-to-top feature relationships in the epithelium image data; 2) an attention-based fusion network image-level classifier predicting the final CIN grade by merging vertical segment sequences. The model produces the CIN classification results and also determines the vertical segment contributions to CIN grade prediction. Experiments show that DeepCIN achieves pathologist-level CIN classification accuracy.

연구 동기 및 목표

• 히스토패스로피 슬라이드에서 CIN 등급 평가의 관찰자 간 변동성 문제를 해결한다.
• 기저막에서 표피 표면으로 향하는 자궁경부 질환의 공간적 진행을 모델링한다.
• 전체 슬라이드 이미지를 사용하여 정확한 CIN 분류를 위한 자동화된 계층적 딥러닝 파이프라인을 개발한다.
• 어느 수직 표피 세그먼트가 CIN 등급 예측에 가장 기여하는지 식별함으로써 해석 가능성을 보장한다.
• 피그먼트 수준의 레이블 없이도 전문 병리학자 수준의 분류 성능를 달성한다.

제안 방법

• 집중 분석을 위해 전체 슬라이드 이미지에서 고해상도 표피 영역을 추출한다.
• 수직 세그먼트에서 순차적 특징 표현을 생성하기 위해 두 단계의 인코더 모델을 사용하며, 바닥에서 꼬리로 향하는 공간적 계층을 유지한다.
• 피그먼트 수준의 레이블이 없는 대신 슬라이드 수준의 레이블을 사용하여 약한 감독 학습을 통해 세그먼트 수준의 분류기를 훈련시킨다.
• 주의 기반 융합 네트워크를 적용하여 수직 세그먼트 시퀀스를 종합적으로 이미지 수준의 예측으로 통합한다.
• 주의 가중치를 활용하여 CIN 등급 분류에 기여하는 핵심 세그먼트를 강조함으로써 모델 결정의 해석 가능성을 높인다.
• 다중 클래스 CIN 등급 분류(정상, CIN1, CIN2, CIN3)를 위한 교차 엔트로피 손실을 사용하여 엔드 투 엔드 파이프라인을 최적화한다.

실험 결과

연구 질문

• RQ1 주목 기반 순차 분류기가 수직 표피 진행을 모델링함으로써 CIN 등급 분류 정확도를 향상시킬 수 있는가?
• RQ2 완전한 애너테이션 없이도 약한 감독 학습이 세그먼트 수준의 특징 추출기에 효과적으로 작용하는가?
• RQ3 주의 메커니즘이 CIN 예측을 위한 생물학적으로 관련된 영역을 어느 정도 식별할 수 있는가?
• RQ4 수직 세그먼트 특징의 계층적 융합이 전통적인 패치 기반 또는 전체 이미지 분류보다 우수한 성능을 내는가?
• RQ5 슬라이드 수준의 레이블만으로도 모델이 전문 병리학자 수준의 정확도를 달성할 수 있는가?

주요 결과

• DeepCIN은 정상, CIN1, CIN2, CIN3를 구분하는 데 병리학자 수준의 분류 정확도를 달성한다.
• 주의 메커니즘이 표피 내 임상적으로 관련된 수직 세그먼트를 성공적으로 식별하고 강조하여 모델의 해석 가능성을 향상시켰다.
• 두 단계의 인코더 모델이 표피 조직에서 바닥에서 꼬리로 향하는 공간적 관계를 효과적으로 유지하여 순차 분석을 위한 특징 표현을 향상시켰다.
• 피그먼트 수준의 애너테이션 없이도 슬라이드 수준의 레이블을 사용한 약한 감독 학습이 세그먼트 수준의 특징 학습에 효과적으로 작용하였다.
• 주의 메커니즘을 통한 수직 세그먼트 시퀀스 융합은 전역 풀링이나 단순 평균화를 사용하는 기준 모델 대비 뛰어난 성능을 보였다.
• 모델은 다양한 전체 슬라이드 이미지에서 뛰어난 강건성과 일반화 능력을 보이며 임상 적용 가능성을 시사한다.