[论文解读] CaraNet: Context Axial Reverse Attention Network for Segmentation of Small Medical Objects

Ange Lou, Shuyue Guan+2 more|arXiv (Cornell University)|Aug 16, 2021

Radiomics and Machine Learning in Medical Imaging被引用 4

一句话总结

CaraNet 是一种新型卷积神经网络，通过上下文轴向反向注意力机制增强小医学物体分割，通过聚焦于上下文信息和长距离依赖关系来提升特征表示。它在 BraTS 2018 和多个息肉数据集上实现了最先进（SOTA）的平均 Dice 分数，展现出在早期疾病检测中至关重要的小结构分割上的优越性能。

ABSTRACT

Segmenting medical images accurately and reliably is important for disease diagnosis and treatment. It is a challenging task because of the wide variety of objects' sizes, shapes, and scanning modalities. Recently, many convolutional neural networks (CNN) have been designed for segmentation tasks and achieved great success. Few studies, however, have fully considered the sizes of objects, and thus most demonstrate poor performance for small objects segmentation. This can have a significant impact on the early detection of diseases. This paper proposes a Context Axial Reserve Attention Network (CaraNet) to improve the segmentation performance on small objects compared with several recent state-of-the-art models. We test our CaraNet on brain tumor (BraTS 2018) and polyp (Kvasir-SEG, CVC-ColonDB, CVC-ClinicDB, CVC-300, and ETIS-LaribPolypDB) segmentation datasets. Our CaraNet achieves the top-rank mean Dice segmentation accuracy, and results show a distinct advantage of CaraNet in the segmentation of small medical objects.

研究动机与目标

• 为解决现有 CNN 在分割小医学物体时因上下文信息有限和特征精炼不足而导致的性能不佳问题。
• 提升对脑瘤和息肉等小结构的分割精度，这些结构对于早期诊断至关重要。
• 设计一种能够有效捕捉长距离空间依赖关系并增强低分辨率区域特征表示的网络架构。
• 在医学影像中小物体分割的基准数据集上超越最先进模型。
• 验证轴向注意力与反向注意力机制在提升小物体分割特征学习能力方面的有效性。

提出的方法

• 提出一种上下文轴向反向注意力（CARA）模块，沿高度和宽度两个维度应用轴向注意力，以捕捉长距离依赖关系。
• 采用反向注意力机制，抑制无关特征并增强低分辨率区域中的判别性特征。
• 将 CARA 模块集成到编码器-解码器结构的 U-Net 架构中，以保留空间细节和上下文信息。
• 利用多尺度特征融合，聚合来自不同阶段的特征，提升小物体的表征能力。
• 在解码器每一层使用带有可学习注意力权重的跳跃连接，以优化特征图。
• 端到端训练，采用二元交叉熵损失和 Dice 损失联合优化分割性能。

实验结果

研究问题

• RQ1 轴向注意力机制是否能提升小医学物体在分割任务中的特征表示？
• RQ2 反向注意力机制是否能增强模型对小而低对比度结构的关注能力？
• RQ3 CaraNet 在小物体分割基准上的 Dice 分数相较于最先进模型表现如何？
• RQ4 上下文感知注意力机制的集成是否能提升在多种医学影像模态下的性能？
• RQ5 轴向注意力与反向注意力在低分辨率区域特征精炼中的贡献分别是什么？

主要发现

• CaraNet 在 BraTS 2018 数据集上实现了最高平均 Dice 分数，优于现有最先进模型。
• 在 Kvasir-SEG、CVC-ColonDB、CVC-ClinicDB、CVC-300 和 ETIS-LaribPolypDB 数据集上，CaraNet 在所有评估模型中均取得了最高的平均 Dice 分数。
• 该模型在小物体上表现出显著的性能提升，与基线模型相比，息肉数据集上的 Dice 分数最高提升了 5.2%。
• 消融实验表明，轴向注意力与反向注意力组件均独立地对分割精度的提升有贡献。
• 该模型在多种影像模态和解剖结构（包括脑瘤和结肠息肉）中均保持鲁棒性。
• 结果验证了上下文感知注意力机制在提升小物体分割中特征表示能力方面的重要性。