[논문 리뷰] Attention Gated Networks: Learning to Leverage Salient Regions in Medical Images

Jo Schlemper, Ozan Oktay외 5명|arXiv (Cornell University)|2018. 08. 22.

AI in cancer detection참고 문헌 9인용 수 11

한 줄 요약

이 논문은 외부 국소화 모듈이 필요 없이 의료 영상의 주목할 만한 영역에 자동으로 집중할 수 있도록 허용하는 새로운 소프트-어텐션 메커니즘인 어텐션 게이팅 네트워크(AGNs)를 소개한다. 표준 아키텍처인 U-Net과 VGG에 어텐션 게이트를 통합함으로써 AGNs는 저대비도 또는 구조가 다양할 경우에도 분류 및 세분화 정확도를 향상시키며, 계산 효율성을 유지하면서 설명 가능한 어텐션 기반 국소화를 가능하게 한다.

ABSTRACT

We propose a novel attention gate (AG) model for medical image analysis that automatically learns to focus on target structures of varying shapes and sizes. Models trained with AGs implicitly learn to suppress irrelevant regions in an input image while highlighting salient features useful for a specific task. This enables us to eliminate the necessity of using explicit external tissue/organ localisation modules when using convolutional neural networks (CNNs). AGs can be easily integrated into standard CNN models such as VGG or U-Net architectures with minimal computational overhead while increasing the model sensitivity and prediction accuracy. The proposed AG models are evaluated on a variety of tasks, including medical image classification and segmentation. For classification, we demonstrate the use case of AGs in scan plane detection for fetal ultrasound screening. We show that the proposed attention mechanism can provide efficient object localisation while improving the overall prediction performance by reducing false positives. For segmentation, the proposed architecture is evaluated on two large 3D CT abdominal datasets with manual annotations for multiple organs. Experimental results show that AG models consistently improve the prediction performance of the base architectures across different datasets and training sizes while preserving computational efficiency. Moreover, AGs guide the model activations to be focused around salient regions, which provides better insights into how model predictions are made. The source code for the proposed AG models is publicly available.

연구 동기 및 목표

• 외부 장기/국소화 모듈이 필요 없도록 컨volutional 신경망(CNN)이 관련 구조에 암묵적으로 집중할 수 있도록 하여 의료 영상 분석에서 외부 국소화 모듈의 필요성을 제거한다.
• 어텐션 메커니즘을 통해 불필요한 특징을 억제함으로써 분류 및 세분화 작업의 모델 민감도와 정확도를 향상시킨다.
• 기존의 CNN 아키텍처인 U-Net과 VGG에 쉽게 통합할 수 있는 경량이며 모듈화된 어텐션 메커니즘을 제공한다.
• 태아 초음파 및 저대비도 CT와 같은 도전적인 영상 환경에서 실시간으로 설명 가능한 객체 국소화를 가능하게 한다.
• 모델 복잡도를 증가시키지 않고도 다양한 데이터셋과 학습 크기에서 일관된 성능 향상을 입증한다.

제안 방법

• 지역 영역 별로 어텐션 계수를 계산하는 격자 기반 소프트-어텐션 메커니즘을 도입하여 공간적으로 특정된 특징 가중치를 가능하게 한다.
• U-Net 유사 아키텍처에서 인코더 및 디코더 경로의 특징을 융합함으로써 어텐션 맵을 계산하는 학습 가능한 게이팅 메커니즘을 사용한다.
• 활성화의 희박성과 밝기 변화에 대한 강건성을 제어하기 위해 어텐션 맵에 정규화 전략(예: 시그모이드 또는 소프트맥스)을 적용한다.
• 각 스케일에서 개별 손실 항목을 사용하는 다중 스케일 집계 전략을 적용하여 학습 안정성과 어텐션 학습을 향상시킨다.
• 표준 역전파를 사용하여 네트워크를 엔드 투 엔드로 학습하며, 어텐션 게이트는 주 네트워크 파rameter들과 함께 함께 학습된다.
• 기울기 흐름과 학습 안정성을 향상시키기 위해 어텐션 게이트 블록에서 잔차 연결 전략을 사용한다.

실험 결과

연구 질문

• RQ1 표준 CNN에 어텐션 게이트 메커니즘이 효과적으로 통합되어 외부 국소화 모듈 없이도 의료 영상 분류 및 세분화 성능을 향상시킬 수 있는가?
• RQ2 태아 초음파와 같은 저대비도 또는 노이즈가 많은 영상 환경에서 어텐션 게이트 메커니즘이 모델 민감도를 향상시키고 가짜 양성 결과를 줄이는 데 어떻게 기여하는가?
• RQ3 3D CT 영상에서 크기가 작거나 매우 변동성이 큰 장기인 췌장과 같은 경우 어텐션 게이트가 성능에 어느 정도 향상시키는가?
• RQ4 활성화 함수의 선택(예: 시그모이드 대비 소프트맥스)이 어텐션 맵 품질과 모델 성능에 어떤 영향을 미치는가?
• RQ5 어떤 어텐션 메커니즘이 임상적으로 관련된 구조와 일치하는 설명 가능한 세밀한 어텐션 맵을 생성할 수 있는가?

주요 결과

• 어 attention Gated Networks(AGNs)는 다양한 학습 세트 크기에서 두 개의 대규모 3D Abdominal CT 데이터셋(TCIA Pancreas-82 및 다중 클래스 복부 CT-150)에서 일관되게 세분화 성능을 향상시켰다.
• Attention U-Net 변종은 캐스케이드 또는 다단계 모델 없이도 TCIA Pancreas-82 데이터셋에서 최신 기술 수준의 성능을 달성했다.
• 태아 초음파 스캔 평면 검출에서 AG-Sononet은 최소한의 파라미터로 정확한 어텐션 기반 국소화를 가능하게 하여 분류 정밀도를 향상시켰다.
• 어텐션 메커니즘이 실제 레이블과 밀접하게 일치하는 어텐션 맵을 생성하여 신뢰할 수 있는 객체 국소화 능력을 입증했다.
• 특히 저대비도 초음파 영상에서 시그모이드 활성화 함수가 소프트맥스보다 더 강건한 어텐션 맵을 생성했으며, 이는 더 나은 기울기 흐름과 밝기 변동에 대한 감도 감소 덕분이었다.
• 스케일별 손실 항목을 사용한 학습과 이중 단계의 피취닝 전략이 학습 안정성과 어텐션 맵 품질을 크게 향상시켰다.