[论文解读] Hierarchical Attention Networks for Medical Image Segmentation

Fei Ding, Gang Yang+6 more|arXiv (Cornell University)|Nov 20, 2019

Advanced Neural Network Applications参考文献 45被引用 10

一句话总结

该论文提出了一种名为分层注意力网络（HANet）的新颖医学图像分割框架，通过高阶图重新构建自注意力机制，以捕捉多层次上下文依赖关系。通过基于特征间高相关性的稀疏图构建，HANet有效减少了跨类别相似区域带来的噪声注意力，实现了在视盘/视杯、血管和肺部分割任务上的最先进性能。

ABSTRACT

The medical image is characterized by the inter-class indistinction, high variability, and noise, where the recognition of pixels is challenging. Unlike previous self-attention based methods that capture context information from one level, we reformulate the self-attention mechanism from the view of the high-order graph and propose a novel method, namely Hierarchical Attention Network (HANet), to address the problem of medical image segmentation. Concretely, an HA module embedded in the HANet captures context information from neighbors of multiple levels, where these neighbors are extracted from the high-order graph. In the high-order graph, there will be an edge between two nodes only if the correlation between them is high enough, which naturally reduces the noisy attention information caused by the inter-class indistinction. The proposed HA module is robust to the variance of input and can be flexibly inserted into the existing convolution neural networks. We conduct experiments on three medical image segmentation tasks including optic disc/cup segmentation, blood vessel segmentation, and lung segmentation. Extensive results show our method is more effective and robust than the existing state-of-the-art methods.

研究动机与目标

• 解决医学图像分割中类别间相似性高、差异性大及噪声多的问题。
• 克服单层次自注意力机制因聚合不相似特征的噪声上下文而带来的局限性。
• 开发一种灵活的即插即用注意力模块，为CNN模型增强分层上下文建模能力。
• 提升模型对输入差异和噪声特征的鲁棒性，适用于医学影像应用。

提出的方法

• 将自注意力机制重新表述为高阶图机制，仅在高度相关的特征节点之间建立边连接。
• 从初始注意力图构建稀疏图，以过滤低相关性及噪声连接。
• 执行多层级邻居聚合（例如一阶和二阶邻居），以捕捉分层上下文信息。
• 融合来自多个邻居层级的特征，以增强表示能力并抑制无关上下文。
• 将分层注意力（HA）模块作为即插即用模块集成到现有的U-Net和编码器-解码器架构中。
• 使用基于相关性的相似度计算注意力权重，并通过阈值化处理形成稀疏图。

实验结果

研究问题

• RQ1 在高阶图中采用分层上下文建模是否能减少医学图像中因类别间相似性导致的噪声注意力？
• RQ2 与单层次自注意力相比，多层级邻居聚合是否能提升特征表示能力？
• RQ3 所提出的分层注意力模块是否可灵活集成到现有CNN架构中，用于医学图像分割？
• RQ4 与现有最先进方法相比，该方法在高输入方差和噪声条件下的表现如何？

主要发现

• 在DRIVE数据集上，HANet h2在视网膜血管分割任务中取得了0.8300的最高F1分数和0.9843的特异性。
• 在LUNA数据集上，HANet h2的IoU达到0.9768，准确率高达0.9945，优于DeepLabv3+和DANet。
• HANet h1和h2在所有三个数据集的全部指标上均优于基线U-Net和R2U-Net。
• 定性结果表明，HANet在检测小尺寸、弯曲形及结构多变的物体（如血管）方面表现更优。
• 该方法在低对比度或模糊区域表现出更强的鲁棒性，尤其在输入变化和噪声干扰下。
• HANet在四个基准数据集上均达到最先进性能，验证了其泛化能力和有效性。