[論文レビュー] Hierarchical Attention Networks for Medical Image Segmentation

Fei Ding, Gang Yang+6 more|arXiv (Cornell University)|Nov 20, 2019

Advanced Neural Network Applications参考文献 45被引用数 10

ひとこと要約

本稿では、自己注意機構を高次グラフを用いて再定式化することで、複数レベルの文脈的依存関係を捉える、新しい医療画像セグメンテーションフレームワークである階層的アテンションネットワーク（HANet）を提案する。特徴間の高い相関に基づくスパースグラフを構築することで、クラス間で区別がつきにくい領域からのノイズの多いアテンションを低減し、網膜円錐/杯、血管、肺のセグメンテーションタスクにおいて最先端の性能を達成した。

ABSTRACT

The medical image is characterized by the inter-class indistinction, high variability, and noise, where the recognition of pixels is challenging. Unlike previous self-attention based methods that capture context information from one level, we reformulate the self-attention mechanism from the view of the high-order graph and propose a novel method, namely Hierarchical Attention Network (HANet), to address the problem of medical image segmentation. Concretely, an HA module embedded in the HANet captures context information from neighbors of multiple levels, where these neighbors are extracted from the high-order graph. In the high-order graph, there will be an edge between two nodes only if the correlation between them is high enough, which naturally reduces the noisy attention information caused by the inter-class indistinction. The proposed HA module is robust to the variance of input and can be flexibly inserted into the existing convolution neural networks. We conduct experiments on three medical image segmentation tasks including optic disc/cup segmentation, blood vessel segmentation, and lung segmentation. Extensive results show our method is more effective and robust than the existing state-of-the-art methods.

研究の動機と目的

• 医療画像セグメンテーションにおけるクラス間の類似性、高い可変性、ノイズの課題に対処すること。
• 類似しない特徴からのノイズの多い文脈を集約する1レベルの自己注意機構の限界を克服すること。
• 畳み込みニューラルネットワーク（CNN）に階層的文脈モデリングを組み込む、柔軟でプラグイン可能なアテンションモジュールを開発すること。
• 医療画像処理応用における入力のばらつきやノイズのある特徴に対して、より頑健な性能を向上させること。

提案手法

• エッジが高相関のある特徴ノード間のみに存在する高次グラフ機構として自己注意を再定式化する。
• 初期のアテンションマップに基づいてスパースグラフを構築し、低相関・ノイズの高い接続をフィルタリングする。
• 1次および2次近隣ノードの多重レベル集約を実行し、階層的文脈を捉える。
• 複数の近隣レベルからの特徴を統合することで表現を豊かにし、関係のない文脈を抑制する。
• 階層的アテンション（HA）モジュールを既存のU-Netおよびエンコーダデコーダアーキテクチャにプラグインとして統合する。
• 相関に基づく類似度を用いてアテンション重みを計算し、その後しきい値処理を施してスパースグラフを形成する。

実験結果

リサーチクエスチョン

• RQ1 高次グラフにおける階層的文脈モデリングは、医療画像のクラス間で区別がつきにくい領域からのノイズの多いアテンションを低減できるか？
• RQ2 多重レベルの近隣集約は、1レベルの自己注意と比較して特徴表現を向上させられるか？
• RQ3 提案された階層的アテンションモジュールは、既存のCNNアーキテクチャに柔軟に統合可能か？
• RQ4 入力のばらつきやノイズが大きい状況下で、既存の最先端手法と比較して本手法はどのように性能を発揮するか？

主な発見

• 網膜血管セグメンテーションにおいて、DRIVEデータセットでHANet h2がF1スコア0.8300および特異度0.9843の最高値を達成した。
• LUNAデータセットでは、HANet h2がIoU 0.9768および正答率0.9945を達成し、DeepLabv3+およびDANetを上回った。
• HANet h1およびh2は、3つのデータセットすべてにおいて、ベースラインのU-NetおよびR2U-Netをすべての指標で上回った。
• 定性的な結果から、HANetは血管のような小さな、曲線的で構造が多様な対象をよりよく検出できた。
• 特にコントラストが低いかもしだいの領域において、入力のばらつきやノイズに対して優れた頑健性を示した。
• 4つのベンチマークデータセットにおいて、HANetは最先端の性能を達成し、一般化能と有効性を確認した。