[논문 리뷰] Diagnose like a Radiologist: Attention Guided Convolutional Neural Network for Thorax Disease Classification

Qingji Guan, Yaping Huang외 4명|arXiv (Cornell University)|2018. 01. 30.

COVID-19 diagnosis using AI참고 문헌 31인용 수 241

한 줄 요약

AG-CNN은 전역(global), 로컬(local), 융합(fusion) 세 가지 브랜치 아키텍처를 사용하고 전역 CXR 이미지에서 주의 가이드 로컬 영역을 잘라 흉부 질환 분류를 향상시켜 ChestX-ray14에서 최첨단 AUC를 달성합니다.

ABSTRACT

This paper considers the task of thorax disease classification on chest X-ray images. Existing methods generally use the global image as input for network learning. Such a strategy is limited in two aspects. 1) A thorax disease usually happens in (small) localized areas which are disease specific. Training CNNs using global image may be affected by the (excessive) irrelevant noisy areas. 2) Due to the poor alignment of some CXR images, the existence of irregular borders hinders the network performance. In this paper, we address the above problems by proposing a three-branch attention guided convolution neural network (AG-CNN). AG-CNN 1) learns from disease-specific regions to avoid noise and improve alignment, 2) also integrates a global branch to compensate the lost discriminative cues by local branch. Specifically, we first learn a global CNN branch using global images. Then, guided by the attention heat map generated from the global branch, we inference a mask to crop a discriminative region from the global image. The local region is used for training a local CNN branch. Lastly, we concatenate the last pooling layers of both the global and local branches for fine-tuning the fusion branch. The Comprehensive experiment is conducted on the ChestX-ray14 dataset. We first report a strong global baseline producing an average AUC of 0.841 with ResNet-50 as backbone. After combining the local cues with the global information, AG-CNN improves the average AUC to 0.868. While DenseNet-121 is used, the average AUC achieves 0.871, which is a new state of the art in the community.

연구 동기 및 목표

• 질환 특이적 로컬 영역에 집중하여 전체 이미지가 아닌 흉부 질환 분류를 개선하려는 동기.
• 흉부 X-선 분석의 불일치와 배경 잡음 문제를 해결합니다.
• 더 나은 정확성을 위해 글로벌 및 로컬 큐를 융합하는 주의 가이드의 세 가지 분기 아키텍처를 제안합니다.

제안 방법

• 전역 이미지와 주의가 잘린 로컬 영역에서 작동하는 글로벌, 로컬, 융합의 세 분기로 AG-CNN 제안.
• 마지막 합성곱 층의 활성화의 절대값을 채널별로 최댓값을 구해 얻은 글로벌 분기의 주의 열 지도(H_g)로 생성.
• H_g를 임계값 tau로 이진 마스크 M으로 변환하고 연결된 최대 영역을 추출한 뒤 I에서 로컬 입력으로 I_c를 잘라냄.
• 글로벌 및 로컬 분기를 개별적으로 학습시키고 Pool5 특성을 융합 분기에서 최종 분류를 위해 결합.
• 세 단계 학습 프로토콜 사용: Stage I(글로벌 분기 학습), Stage II(로컬 영역 자르고 로컬 분기 학습), Stage III(풀5 특성 연결로 융합 분기 학습).
• ChestX-ray14에서 14개의 병변과 No Finding을 포함하는 다라벨 설정(C=15)으로 평가.

실험 결과

연구 질문

• RQ1 주의 가이드 로컬 영역 자르기가 글로벌 이미지 기준선보다 흉부 질환 분류를 개선할 수 있는가?
• RQ2 글로벌 및 로컬 분기가 보완 정보를 제공하여 융합 시 어느 분기도 혼자보다 더 높은 정확도를 내는가?
• RQ3 방법은 로컬 영역 임계값 tau와 백본 선택(ResNet-50 대 DenseNet-121)에 얼마나 민감한가?
• RQ4 제안된 접근 방식은 흉부 X-선 이미지의 불일치 및 배경 노이즈에 대해 강인한가?

주요 결과

• 글로벌 기준선(ResNet-50)은 ChestX-ray14에서 평균 AUC 0.841을 달성.
• AG-CNN with global + local fusion improves average AUC to 0.868 (ResNet-50) and 0.871 (DenseNet-121), achieving state-of-the-art.
• Local branch alone yields competitive but lower average AUC (~0.817–0.810) than the global baseline, indicating the local crop helps when fused.
• Fusion branch consistently outperforms both individual branches across the 14 pathologies for both backbones.
• The approach is relatively robust to parameter changes, with tau around 0.7 providing strong performance and fusion providing gains over either branch alone.
• Most notable gains are seen in small-lesion categories (e.g., Nodule) where local attention helps reduce background noise.