[論文レビュー] Attention-Gated Networks for Improving Ultrasound Scan Plane Detection

Jo Schlemper, Ozan Oktay+6 more|arXiv (Cornell University)|Apr 15, 2018

Domain Adaptation and Few-Shot Learning被引用数 87

ひとこと要約

本論文は Attention-Gated Sononet (AG-Sononet) を提案する。これは胎児超音波検査のスキャン平面検出器に組み込まれたソフトな自己注意機構で、局所特徴を活用して精度を向上させ、最小限のオーバーヘッドで弱教師付き局在を提供する。

ABSTRACT

In this work, we apply an attention-gated network to real-time automated scan plane detection for fetal ultrasound screening. Scan plane detection in fetal ultrasound is a challenging problem due the poor image quality resulting in low interpretability for both clinicians and automated algorithms. To solve this, we propose incorporating self-gated soft-attention mechanisms. A soft-attention mechanism generates a gating signal that is end-to-end trainable, which allows the network to contextualise local information useful for prediction. The proposed attention mechanism is generic and it can be easily incorporated into any existing classification architectures, while only requiring a few additional parameters. We show that, when the base network has a high capacity, the incorporated attention mechanism can provide efficient object localisation while improving the overall performance. When the base network has a low capacity, the method greatly outperforms the baseline approach and significantly reduces false positives. Lastly, the generated attention maps allow us to understand the model's reasoning process, which can also be used for weakly supervised object localisation.

研究の動機と目的

• 低画質とクラス不均衡にもかかわらず、胎児超音波におけるリアルタイムのスキャン平面検出を改善する。
• bounding-box 監視なしで局所情報を活用するため、自己ゲート付きソフトアテンションを組み込む。
• 説明可能性と弱教師付き局在のための視覚化可能なアテンションマップを可能にする。

提案手法

• 特定の層に自己ゲート付きソフトアテンションブロックを追加してアテンションマップを生成する。
• 線形変換とゲーティングを用いた一般化アテンションの定式化により適合度スコアを計算する。
• グリッド全体特徴表現とバイリニアアップサンプリングを用いて空間的文脈を保持するグリッドアテンションを実装する。
• スケール間での集約戦略を実験する：スケールごとの独立予測と平均化、深層監視、微調整された結合予測子。
• 初期フィルタ数8/16/32のモデル容量で、AG-Sononetの変種をベースラインのSononetと比較する。

実験結果

リサーチクエスチョン

• RQ1 強力なベースラインと比較して、ソフトアテンションは胎児スキャン平面分類の正確性と精度を改善するか？
• RQ2 アテンションマップは境界ボックスラベルなしでの弱教師付き局在を、低い計算オーバーヘッドで提供できるか？
• RQ3 マルチスケール特徴における集約戦略は学習と性能にどのように影響するか？
• RQ4 本タスクにおけるアテンションゲーティングの利点はモデル容量の影響を受けるか？

主な発見

手法	正確性	F1	適合率	再現率	前方/後方 (ms)	パラメータ数
Sononet-8	0.969	0.899	0.878	0.922	1.36/2.60	0.16M
AG-Sononet-8	0.976	0.921	0.911	0.933	1.86/3.46	0.18M
AG-Sononet-DS-8	0.975	0.918	0.907	0.929	1.92/3.51	0.18M
AG-Sononet-FT-8	0.977	0.922	0.916	0.929	1.92/3.47	0.18M
Sononet-16	0.977	0.923	0.916	0.931	1.45/3.92	0.65M
AG-Sononet-16	0.976	0.925	0.917	0.932	1.88/5.13	0.70M
AG-Sononet-DS-16	0.978	0.924	0.919	0.929	1.90/5.19	0.71M
AG-Sononet-FT-16	0.978	0.929	0.924	0.934	1.94/5.13	0.70M
Sononet-32	0.979	0.931	0.924	0.938	2.40/6.72	2.58M
AG-Sononet-32	0.980	0.932	0.928	0.937	3.01/8.74	2.79M
AG-Sononet-DS-32	0.978	0.929	0.921	0.937	2.98/8.81	2.80M
AG-Sononet-FT-32	0.980	0.933	0.931	0.935	2.92/8.68	2.79M

• AG-Sononetは容量を問わずSononetより一貫して改善を示し、より高い精度と偽陽性の低減を達成。
• アテンションゲーティングは視覚的に類似する心臓ビュー（例: 4CHと3VV）の識別性を高め、腎臓、プロファイル、脊椎の分類を改善。
• AG-Sononetが生成するアテンションマップは追加計算コストなしでほぼリアルタイムの弱教師付き局在を可能にする。
• さまざまな集約戦略は、安定した2段階アプローチ（スケールごとの学習→結合微調整）が最良の性能をもたらすことを示す。
• 初期フィルタ8/16/32のAG-Sononetは、漸次的に大きくするベースラインよりもパラメータ数を抑えつつ競争力のある精度とF1を達成。