[논문 리뷰] Iterative Attention Mining for Weakly Supervised Thoracic Disease Pattern Localization in Chest X-Rays

Jinzheng Cai, Le Lü외 4명|arXiv (Cornell University)|2018. 07. 03.

COVID-19 diagnosis using AI인용 수 11

한 줄 요약

이 논문은 이미지 수준 레이블만을 사용하여 흉부 X선 촬영에서 흉부 질환 패턴의 약한 지도 학습 국소화를 위한 반복적 주의 힘들림(Iterative Attention Mining, IAM) 프레임워크를 제안한다. 반복적으로 주목할 만한 영역를 마스킹하고 대조 손실을 통해 지식을 유지함으로써, CAM 기반 방법에 비해 국소화 정확도를 향상시키며, ChestX-ray14 데이터셋에서 최신 기술 수준의 성능을 달성하여 소규모 이상 징후인 결절과 같은 것에 더 민감하게 반응한다.

ABSTRACT

Given image labels as the only supervisory signal, we focus on harvesting, or mining, thoracic disease localizations from chest X-ray images. Harvesting such localizations from existing datasets allows for the creation of improved data sources for computer-aided diagnosis and retrospective analyses. We train a convolutional neural network (CNN) for image classification and propose an attention mining (AM) strategy to improve the model's sensitivity or saliency to disease patterns. The intuition of AM is that once the most salient disease area is blocked or hidden from the CNN model, it will pay attention to alternative image regions, while still attempting to make correct predictions. However, the model requires to be properly constrained during AM, otherwise, it may overfit to uncorrelated image parts and forget the valuable knowledge that it has learned from the original image classification task. To alleviate such side effects, we then design a knowledge preservation (KP) loss, which minimizes the discrepancy between responses for X-ray images from the original and the updated networks. Furthermore, we modify the CNN model to include multi-scale aggregation (MSA), improving its localization ability on small-scale disease findings, e.g., lung nodules. We experimentally validate our method on the publicly-available ChestX-ray14 dataset, outperforming a class activation map (CAM)-based approach, and demonstrating the value of our novel framework for mining disease locations.

연구 동기 및 목표

• 이미지 수준 레이블만을 사용하여 흉부 X선 촬영에서 흉부 질환 패턴을 국소화하는 데 도전하는 것, 픽셀 수준의 레이블링에 비용이 많이 들기 때문에 이를 피하기 위해.
• 학습 중에 주목할 만한 영역를 반복적으로 식별하고 마스킹하여 모델의 질병 패턴에 대한 민감도를 향상시키는 것.
• 주의 힘들림 과정에서 이전에 학습한 지식을 상실하는 것을 방지하기 위해 지식 보존 손실을 도입하는 것.
• CNN 아키텍처에 다중 척도 집합을 통합하여 소규모 이상 징후, 예를 들어 폐 결절의 국소화를 향상시키는 것.
• 특히 CAM 기반 방법에 비해 기존의 약한 지도 학습 방법보다 우수한 성능을 내기 위해 ChestX-ray14 데이터셋에서 질병 패턴 국소화 성능을 향상시키는 것.

제안 방법

• 이 방법은 이미지 수준 레이블만을 사용하여 이미지 분류를 위한 컨volutional 신경망(CNN)을 학습한다.
• 반복적 주의 힘들림(AM) 전략은 각 전방 전파에서 가장 주목할 만한 질병 영역를 차단함으로써, 모델이 다른 영역에 주목하도록 유도하면서도 정확한 예측를 유지하도록 한다.
• 지식 보존(KP) 손실이 도입되어 원본 네트워크와 업데이트된 네트워크의 특징 반응 간의 차이를 최소화함으로써, 이전에 학습한 지식을 상실하는 것을 방지한다.
• 다중 척도 집합(MSA)이 CNN에 통합되어 폐 결절과 같은 소규모 질병 패턴의 국소화를 향상시킨다.
• 프레임워크는 주의 힘들림과 지식 정복을 번갈아가며 여러 반복 동안 주의 맵을 정교화한다.
• 최종 주의 맵은 바운딩 박스나 세그멘테이션 마스크가 필요 없이 질병 패턴의 국소화에 사용된다.

실험 결과

연구 질문

• RQ1 이미지 수준 레이블만을 사용할 때 반복적 주의 힘들림이 흉부 X선 촬영에서 질병 패턴의 국소화를 향상시킬 수 있는가?
• RQ2 반복적 주의 힘들림 과정에서 지식 상실을 어떻게 완화할 수 있을까? 기존 분류 작업의 성능을 유지하기 위해.
• RQ3 다중 척도 집합이 약한 지도 학습 국소화에서 소규모 이상 징후, 예를 들어 폐 결절의 탐지에 얼마나 기여하는가?
• RQ4 클래스 활성화 맵(CAM)에 비해 제안된 방법은 국소화 정확도와 견고성 측면에서 어떻게 다른가?
• RQ5 이 프레임워크는 약한 지도 학습만을 사용하여 한 장의 X선 촬영 이미지에서 다수의 질병 패턴을 효과적으로 국소화할 수 있는가?

주요 결과

• 제안된 IAM 프레임워크는 ChestX-ray14 데이터셋에서 흉부 질환 패턴의 국소화 정확도 측면에서 CAM 기반 기준선을 능가했다.
• 지식 보존 손실의 통합으로 인해 모델의 기억 상실이 크게 감소하여 반복적 주의 힘들림 과정 동안 높은 분류 정확도를 유지할 수 있었다.
• 다중 척도 집합은 폐 결절과 같은 소규모 이상 징후의 탐지 능력을 향상시켰으며, 이는 기존의 표준 국소화 방법에서 자주 간과되는 영역였다.
• 모델은 미세하거나 산산이 흩어진 증상을 보이는 다양한 질병 유형에 대해 견고한 성능을 보였다.
• 반복적 주의 힘들림 과정은 점차 정교해지는 주의 맵을 이끌어내어 관련 병변 영역에 더 집중하는 경향을 보였다.
• 정량적 평가 결과, 제안된 방법이 CAM 기반 접근법에 비해 질병 국소화에 대해 더 높은 평균 정밀도(mAP)를 달성했다.