[논문 리뷰] Attention-Gated Networks for Improving Ultrasound Scan Plane Detection

Jo Schlemper, Ozan Oktay외 6명|arXiv (Cornell University)|2018. 04. 15.

Domain Adaptation and Few-Shot Learning인용 수 87

한 줄 요약

논문은 Attention-Gated Sononet (AG-Sononet)을 소개합니다. 소프트 셀프-어텐션 메커니즘을 태아 초음파 스캔 평면 탐검기에 통합하여 지역 특징을 활용하고 정밀도를 향상시키며 최소한의 오버헤드로 약한 감독 하 로컬라이제이션을 제공합니다.

ABSTRACT

In this work, we apply an attention-gated network to real-time automated scan plane detection for fetal ultrasound screening. Scan plane detection in fetal ultrasound is a challenging problem due the poor image quality resulting in low interpretability for both clinicians and automated algorithms. To solve this, we propose incorporating self-gated soft-attention mechanisms. A soft-attention mechanism generates a gating signal that is end-to-end trainable, which allows the network to contextualise local information useful for prediction. The proposed attention mechanism is generic and it can be easily incorporated into any existing classification architectures, while only requiring a few additional parameters. We show that, when the base network has a high capacity, the incorporated attention mechanism can provide efficient object localisation while improving the overall performance. When the base network has a low capacity, the method greatly outperforms the baseline approach and significantly reduces false positives. Lastly, the generated attention maps allow us to understand the model's reasoning process, which can also be used for weakly supervised object localisation.

연구 동기 및 목표

• 저해상도 및 클래스 불균형에도 불구하고 태아 초음파에서 실시간 스캔 평면 탐지를 향상시키는 것.
• 경계상자 감독 없이 로컬 정보를 활용하기 위해 self-gated soft-attention을 포함한다.
• 설명 가능성을 위한 시각화 가능한 어텐션 맵을 가능하게 하여 약한 감독 로컬라이제이션을 지원한다.

제안 방법

• 선택된 층에 self-gated soft-attention 블록을 추가로 적용해 어텐션 맵을 생성하도록 Sononet을 확장한다.
• 직선 변환과 게이팅을 이용한 일반화된 어텐션 공식으로 호환성 점수를 계산한다.
• 격자형 글로벌 특징 표현과 쌍선형 보간으로 공간 컨텍스트를 보존하기 위해 그리드 어텐션을 구현한다.
• 스케일 간 집계 전략을 실험한다: 스케일별 독립 예측과 평균화, 심층 감독, 그리고 미세 조정된 합동 예측기를 포함한 전략.
• 모델 용량(초기 필터 8/16/32)에 따라 AG-Sononet 변종을 기준 Sononet과 비교한다.

실험 결과

연구 질문

• RQ1 저 Soft-attention이 강력한 기준선과 비교하여 태아 스캔 평면 분류의 정확도와 정밀도를 향상시키는가?
• RQ2 어텐션 맵이 경계 상자 라벨 없이 약한 감독 로컬라이제이션을 낮은 계산 비용으로 제공할 수 있는가?
• RQ3 다중 스케일 특징 간의 집계 전략이 학습 및 성능에 어떤 영향을 주는가?
• RQ4 이 작업에서 어텐션 게이팅의 이점에 모델 용량이 어떤 영향을 주는가?

주요 결과

방법	정확도	F1	정밀도	재현율	전방/후방(ms)	매개변수 수
Sononet-8	0.969	0.899	0.878	0.922	1.36/2.60	0.16M
AG-Sononet-8	0.976	0.921	0.911	0.933	1.86/3.46	0.18M
AG-Sononet-DS-8	0.975	0.918	0.907	0.929	1.92/3.51	0.18M
AG-Sononet-FT-8	0.977	0.922	0.916	0.929	1.92/3.47	0.18M
Sononet-16	0.977	0.923	0.916	0.931	1.45/3.92	0.65M
AG-Sononet-16	0.976	0.925	0.917	0.932	1.88/5.13	0.70M
AG-Sononet-DS-16	0.978	0.924	0.919	0.929	1.90/5.19	0.71M
AG-Sononet-FT-16	0.978	0.929	0.924	0.934	1.94/5.13	0.70M
Sononet-32	0.979	0.931	0.924	0.938	2.40/6.72	2.58M
AG-Sononet-32	0.980	0.932	0.928	0.937	3.01/8.74	2.79M
AG-Sononet-DS-32	0.978	0.929	0.921	0.937	2.98/8.81	2.80M
AG-Sononet-FT-32	0.980	0.933	0.931	0.935	2.92/8.68	2.79M

• AG-Sononet은 용량에 상관없이 Sononet보다 일관되게 성능을 향상시키며 정밀도가 높아 거짓 양성이 감소합니다.
• 어텐션 게이팅은 시각적으로 유사한 심초음 심장 영상(예: 4CH와 3VV)을 더 잘 구분하게 하고 신장, 윤곽, 척추 분류를 개선합니다.
• AG-Sononet이 생성한 어텐션 맵은 추가 계산 비용 없이 거의 실시간 약한 감독 로컬라이제이션을 가능하게 합니다.
• 다른 집계 전략은 안정적인 2단계 접근(스케일별 학습 후 합동 미세 조정)이 최상의 성능을 낸다는 것을 보여줍니다.
• 8/16/32 초기 필터를 가진 AG-Sononet은 점진적으로 큰 기반보다 더 적은 매개변수로 경쟁력 있는 정확도와 F1을 달성합니다.