[论文解读] DCSAU-Net: A Deeper and More Compact Split-Attention U-Net for Medical Image Segmentation

Qing Xu, Ma, Zhicheng+2 more|arXiv (Cornell University)|Feb 2, 2022

Advanced Neural Network Applications被引用 14

一句话总结

DCSAU-Net 是一种更深且更紧凑的 U-Net 架构，用于医学图像分割，引入了主特征保留（PFC）策略和紧凑分割注意力（CSA）模块，以增强特征表示。通过利用深度可分离卷积和多路径注意力机制，它在四个医学数据集上实现了最先进性能，mIoU 和 F1 分数均有提升，尤其在具有挑战性的低质量图像上表现更优。

ABSTRACT

Deep learning architecture with convolutional neural network (CNN) achieves outstanding success in the field of computer vision. Where U-Net, an encoder-decoder architecture structured by CNN, makes a great breakthrough in biomedical image segmentation and has been applied in a wide range of practical scenarios. However, the equal design of every downsampling layer in the encoder part and simply stacked convolutions do not allow U-Net to extract sufficient information of features from different depths. The increasing complexity of medical images brings new challenges to the existing methods. In this paper, we propose a deeper and more compact split-attention u-shape network (DCSAU-Net), which efficiently utilises low-level and high-level semantic information based on two novel frameworks: primary feature conservation and compact split-attention block. We evaluate the proposed model on CVC-ClinicDB, 2018 Data Science Bowl, ISIC-2018 and SegPC-2021 datasets. As a result, DCSAU-Net displays better performance than other state-of-the-art (SOTA) methods in terms of the mean Intersection over Union (mIoU) and F1-socre. More significantly, the proposed model demonstrates excellent segmentation performance on challenging images. The code for our work and more technical details can be found at https://github.com/xq141839/DCSAU-Net.

研究动机与目标

• 为解决标准 U-Net 在捕捉不同图像复杂度下的充分低级和高级语义特征方面的局限性。
• 在保持或提升医学图像分割精度的同时，减少模型参数量和计算成本。
• 通过基于注意力机制的紧凑架构增强多尺度特征表示，同时保留空间和通道信息。
• 开发一种轻量化、可训练的模型，在无需辅助监督的情况下，对复杂且低质量的医学图像具有良好的泛化能力。

提出的方法

• 引入一种主特征保留（PFC）机制，采用大感受野（7×7）的深度可分离卷积，以保留丰富的低级特征并扩展感受野。
• 提出一种紧凑分割注意力（CSA）模块，将输入特征拆分为多个路径，每条路径使用不同堆叠的卷积层，并应用通道注意力以突出有意义的特征。
• 在 PFC 和 CSA 模块中引入残差连接，以缓解深层网络训练过程中的梯度消失问题。
• 在编码器和解码器之间使用跳跃连接，融合高级和低级特征，实现精确的定位。
• 训练过程中使用标准 Dice 损失，无需初始掩码或边缘监督。
• 通过最小化参数量和计算量来优化模型效率，同时保持高性能。

实验结果

研究问题

• RQ1 更深且更紧凑的 U-Net 架构是否能在医学图像分割任务中超越现有最先进模型？
• RQ2 主特征保留机制在低级特征层中如何改善特征表示？
• RQ3 紧凑分割注意力机制在多尺度特征学习和分割精度方面提升了多少？
• RQ4 所提出的架构是否能在传统模型失效的低质量或复杂医学图像上保持高性能？
• RQ5 该模型是否能以更少的参数和更低的计算量实现更快的收敛和更好的泛化能力？

主要发现

• DCSAU-Net 在四个医学图像分割基准数据集（包括 CVC-ClinicDB、2018 年数据科学竞赛、ISIC-2018 和 SegPC-2021）上实现了最先进性能。
• 与其它最先进方法相比，该模型在 mIoU 和 F1 分数上均表现更优，尤其在多类别分割任务中表现突出。
• 在染色差、模糊或对比度低的挑战性图像上，DCSAU-Net 生成的掩码更准确且形状保持性更好，优于基线模型。
• 在前 20 个训练周期内，该模型收敛速度优于其他最先进方法，表明训练效率更高。
• 消融实验表明，PFC 和 CSA 组件均对性能提升有显著贡献，其中 CSA 模块显著增强了多尺度特征表示。
• 尽管网络更深，DCSAU-Net 仍保持较小的参数量和可接受的推理时间，适用于资源受限设备的部署。