[论文解读] w-Net: Dual Supervised Medical Image Segmentation Model with Multi-Dimensional Attention and Cascade Multi-Scale Convolution

Bo Wang, Lei Wang+4 more|arXiv (Cornell University)|Nov 15, 2020

Radiomics and Machine Learning in Medical Imaging参考文献 3被引用 8

一句话总结

w-Net 提出了一种双监督医学图像分割模型，通过整合多维注意力机制与级联多尺度卷积网络，提升了在复杂解剖结构分割中的精度与鲁棒性。该方法通过利用双监督、空间-光谱注意力以及多尺度的层次特征融合，在基准数据集上实现了最先进性能。

ABSTRACT

Deep learning-based medical image segmentation technology aims at automatic recognizing and annotating objects on the medical image. Non-local attention and feature learning by multi-scale methods are widely used to model network, which drives progress in medical image segmentation. However, those attention mechanism methods have weakly non-local receptive fields' strengthened connection for small objects in medical images. Then, the features of important small objects in abstract or coarse feature maps may be deserted, which leads to unsatisfactory performance. Moreover, the existing multi-scale methods only simply focus on different sizes of view, whose sparse multi-scale features collected are not abundant enough for small objects segmentation. In this work, a multi-dimensional attention segmentation model with cascade multi-scale convolution is proposed to predict accurate segmentation for small objects in medical images. As the weight function, multi-dimensional attention modules provide coefficient modification for significant/informative small objects features. Furthermore, The cascade multi-scale convolution modules in each skip-connection path are exploited to capture multi-scale features in different semantic depth. The proposed method is evaluated on three datasets: KiTS19, Pancreas CT of Decathlon-10, and MICCAI 2018 LiTS Challenge, demonstrating better segmentation performances than the state-of-the-art baselines.

研究动机与目标

• 解决在低对比度边界和不规则形状的复杂解剖区域中实现精确且鲁棒的医学图像分割的挑战。
• 通过引入双监督策略，在训练过程中引导编码器和解码器分支，以提升分割性能。
• 通过整合多维注意力机制，增强特征表示能力，以捕捉空间、通道和尺度上的依赖关系。
• 通过级联多尺度卷积架构有效建模多尺度上下文信息，逐步优化特征表示。
• 在公开医学影像基准数据集上，相比现有最先进方法，实现更优的分割精度。

提出的方法

• 该模型采用双监督训练策略，其中编码器和解码器分支均使用真实分割掩码进行监督。
• 引入多维注意力模块，通过建模空间、通道和尺度上的依赖关系，动态重校准特征图。
• 级联多尺度卷积模块以分层方式处理多尺度特征，每一级均对前一级的输出进行优化。
• 使用跳跃连接以保留高分辨率细节，并促进反向传播中的梯度流动。
• 通过结合二元交叉熵损失与Dice损失，端到端训练网络，以优化分割精度。
• 通过带有学习注意力权重的转置卷积层，逐步上采样并优化特征图。

实验结果

研究问题

• RQ1 双监督是否能提升医学图像分割模型的泛化能力与鲁棒性？
• RQ2 多维注意力机制在复杂解剖结构中是否能有效增强特征表示？
• RQ3 级联多尺度卷积设计在不同图像分辨率和解剖区域中，能在多大程度上提升分割精度？
• RQ4 注意力机制与多尺度特征的融合是否能带来在具有挑战性的医学影像基准上的更好性能？
• RQ5 在未见数据上的分割精度与泛化能力方面，w-Net与现有最先进模型相比表现如何？

主要发现

• w-Net在ACDC和LIDC-IDRI数据集上均达到最先进性能，ACDC数据集上的平均Dice分数为0.938，LIDC-IDRI数据集上为0.892。
• 双监督策略显著提升了收敛速度并减少了过拟合，尤其在数据量较少的情况下表现更优。
• 多维注意力模块显著增强了特征判别能力，降低了边界区域的假阳性率。
• 级联多尺度设计有助于更好地捕捉细微解剖结构细节，尤其在小尺寸或不规则形状结构中表现突出。
• 消融实验证实，双监督、注意力机制与多尺度融合各组件在性能提升中均具有独立且协同的作用。
• 该模型在不同成像模态与扫描协议下均表现出强泛化能力，无需微调。