[논문 리뷰] Multi-Label Retinal Disease Classification using Transformers

Manuel A. Rodriguez, H. AlMarzouqi외 1명|arXiv (Cornell University)|2022. 07. 05.

Retinal Imaging and Analysis인용 수 8

한 줄 요약

이 논문은 20种의 질병에 대해 2,208장의 안저 영상으로 구성된 새로 구축한 MuReD 데이터셋을 사용하여 다중 레이블 망막 질환 분류를 위한 새로운 트랜스포머 기반 모델인 C-Tran을 제안한다. 이 방법은 기존 방법보다 질병 탐지 및 분류에서 각각 7.9%와 8.1% 향상된 AUC 성능을 기록하며, 클래스 활성화 맵을 통한 높은 정확도와 해석 가능성도 확보한다.

ABSTRACT

Early detection of retinal diseases is one of the most important means of preventing partial or permanent blindness in patients. In this research, a novel multi-label classification system is proposed for the detection of multiple retinal diseases, using fundus images collected from a variety of sources. First, a new multi-label retinal disease dataset, the MuReD dataset, is constructed, using a number of publicly available datasets for fundus disease classification. Next, a sequence of post-processing steps is applied to ensure the quality of the image data and the range of diseases, present in the dataset. For the first time in fundus multi-label disease classification, a transformer-based model optimized through extensive experimentation is used for image analysis and decision making. Numerous experiments are performed to optimize the configuration of the proposed system. It is shown that the approach performs better than state-of-the-art works on the same task by 7.9% and 8.1% in terms of AUC score for disease detection and disease classification, respectively. The obtained results further support the potential applications of transformer-based architectures in the medical imaging field.

연구 동기 및 목표

• 기존 자동화 시스템에서 다루지 않은 바람에 미흡한 안저 영상에서 다중 망막 질환의 동시에 탐지 문제를 해결하기 위해.
• 다양한 공개 자료원에서 수집 및 정제한 데이터를 통합하여 고품질의 다중 레이블 안저 영상 데이터셋(MuReD)을 구축하기 위해.
• 기존의 전통적인 CNN과 수작업 특징 추출의 한계를 극복하기 위해 다중 레이블 망막 질환 분류를 위한 트랜스포머 기반 딥 러닝 모델(C-Tran)을 개발하고 최적화하기 위해.
• 개별 질병 탐지 및 다중 질병 분류 모두에서 모델 성능을 평가하고, 클래스 활성화 맵을 통한 설명 가능성 확보하기 위해.
• 다중 레이블 망막 진단에서 기존 최고 수준의 방법에 비해 트랜스포머 아키텍처의 우수성을 입증하기 위해.

제안 방법

• 세 개의 공개 안저 영상 데이터셋에서 영상을 수집하고 정제하여 MuReD 데이터셋을 구축하였으며, 각 질병 클래스에 최소 50개의 샘플이 확보되도록 하였고, 자동화된 품질 평가를 적용하였다.
• 이미지 정규화, 질병 레이블 표준화, 필터링 등의 후처리 단계를 거쳐 데이터 품질과 일관성을 향상시켰다.
• 다중 레이블 분류를 위해 광범위한 초모델 튜닝을 통해 최적화된 고유의 비전 트랜스포머 아키텍처(C-Tran)를 설계하였다.
• 기존의 컨볼루션 레이어를 대체하거나 보완하기 위해 장거리 의존성을 포착하는 다중 헤드 자기주의 메커니즘을 활용하였다.
• 각 질병의 독립적 예측을 가능하게 하기 위해 이진 교차 엔트로피 손실과 시그모이드 활성화 함수를 다중 레이블 출력에 적용하였다.
• Grad-CAM을 사용하여 클래스 활성화 맵(CAMs)을 생성함으로써 주의 영역을 시각화하고, 모델의 설명 가능성 및 특징 학습 능력을 검증하였다.

실험 결과

연구 질문

• RQ1 트랜스포머 기반 아키텍처가 안저 영상을 사용한 다중 레이블 망막 질환 분류에서 기존의 CNN 기반 모델을 능가할 수 있는가?
• RQ2 제안된 C-Tran 모델의 성능은 질병 탐지 및 분류의 AUC 측면에서 기존 최고 수준의 방법과 비교해 어떻게 되는가?
• RQ3 클래스 활성화 맵을 통해 모델이 다양한 질병에 대해 특징적인 특징을 얼마나 잘 학습하는가?
• RQ4 특히 ODP, HTR, ASR와 같이 드물거나 미세한 시각적 징후를 보이는 희귀 또는 미세한 질병에 대해 다중 레이블 안저 영상 분류에서 주요 과제는 무엇인가?
• RQ5 제안된 MuReD 데이터셋은 망막 질환 진단에서 강력하고 일반화 가능한 다중 레이블 학습을 지원하는 데 얼마나 효과적인가?

주요 결과

• 제안된 C-Tran 모델은 기존 최고 수준의 방법 대비 질병 탐지에서 AUC 점수 7.9% 향상, 질병 분류에서 8.1% 향상된 성능을 기록하였다.
• 20종의 질병 중 18종에 대해 AUC 점수가 90% 이상을 기록하였으며, ODE 질병에서 최고 AUC 0.999, MYA에서 0.997를 기록하였다.
• 모델은 주요 병변에 대해 매우 높은 신뢰도와 정확도를 보였다: 녹내장(ODC)에 대해 99%, 황반변성(ARMD)에 대해 98%, 미백(AYA)에 대해 100%의 신뢰도를 기록하였다.
• 모델은 '기타'(AUC = 0.851) 및 'ODP'(AUC = 0.870) 클래스에서 가장 어려움을 겪었는데, 이는 종합 범주로서의 역할과 미세한 시각적 단서 때문이었다.
• 클래스 활성화 맵은 모델이 임상적으로 관련 있는 영역—예를 들어 ARMD의 신생혈관 막, 녹내장의 시신경두 축소—에 집중하고 있음을 확인하여, 모델의 설명 가능성과 특징 학습 능력을 검증하였다.
• HTR와 ASR에 대해서는 높은 AUC(0.971 및 0.911)를 기록하였지만, 0.5 이하의 낮은 신뢰도 예측으로 인해 F1 스코어를 도출하지 못하였으며, 이는 보다 나은 校정 또는 데이터 증강이 필요함을 시사한다.