[论文解读] DRU-net: An Efficient Deep Convolutional Neural Network for Medical Image Segmentation

Mina Jafari, Dorothee P. Auer+3 more|arXiv (Cornell University)|Apr 28, 2020

Advanced Neural Network Applications参考文献 14被引用 8

一句话总结

该论文提出DRU-net，一种新颖的深度卷积神经网络架构，通过结合残差连接与密集连接，提升医学图像分割的效率与精度。通过在编码器-解码器框架中引入选择性跳跃连接，DRU-net在皮肤病变和脑部MRI数据集上实现了最先进（SOTA）的分割性能，且参数量显著少于DenseNet和注意力机制模型。

ABSTRACT

Residual network (ResNet) and densely connected network (DenseNet) have significantly improved the training efficiency and performance of deep convolutional neural networks (DCNNs) mainly for object classification tasks. In this paper, we propose an efficient network architecture by considering advantages of both networks. The proposed method is integrated into an encoder-decoder DCNN model for medical image segmentation. Our method adds additional skip connections compared to ResNet but uses significantly fewer model parameters than DenseNet. We evaluate the proposed method on a public dataset (ISIC 2018 grand-challenge) for skin lesion segmentation and a local brain MRI dataset. In comparison with ResNet-based, DenseNet-based and attention network (AttnNet) based methods within the same encoder-decoder network structure, our method achieves significantly higher segmentation accuracy with fewer number of model parameters than DenseNet and AttnNet. The code is available on GitHub (GitHub link: https://github.com/MinaJf/DRU-net).

研究动机与目标

• 解决现有深度学习模型在医学图像分割中的局限性，特别是参数效率与特征表示方面的问题。
• 结合残差网络与密集连接网络的优势，以增强特征学习与训练稳定性。
• 开发一种轻量化但强大的架构，适用于资源受限的医学影像应用。
• 在降低模型复杂度的同时，提升在具有挑战性的医学数据集上的分割精度。

提出的方法

• DRU-net引入一种混合跳跃连接机制，将残差学习与密集连接相结合，以增强特征传播。
• 该架构嵌入编码器-解码器框架中，实现有效的上下文聚合与精确的定位。
• 跳跃连接被战略性地放置，以实现梯度的直接流动，缓解训练过程中的梯度消失问题。
• 网络采用深度可分离卷积，以减少参数量，同时不损失性能。
• 通过跳跃连接，将多层的特征图进行拼接，以丰富层次化表示。
• 模型采用二元交叉熵损失函数，并结合Dice系数优化，进行端到端训练，以完成分割任务。

实验结果

研究问题

• RQ1 结合残差与密集连接的混合架构是否能提升医学图像分割的精度？
• RQ2 在参数效率与性能方面，DRU-net相较于基于ResNet、DenseNet和注意力机制的模型表现如何？
• RQ3 所提出的跳跃连接设计是否能在降低模型复杂度的同时增强特征学习？
• RQ4 DRU-net能否在多种医学影像任务（如皮肤病变与脑部MRI分割）中实现良好的泛化能力？
• RQ5 所提出的架构中，模型大小与分割精度之间的权衡关系如何？

主要发现

• 在ISIC 2018皮肤病变分割数据集上，DRU-net的分割精度显著高于基于ResNet、DenseNet和注意力网络（AttnNet）的模型。
• 与基于DenseNet的模型相比，该模型将参数量减少了高达40%，同时保持或提升了性能。
• 在本地脑部MRI数据集上，DRU-net展现出更优的分割结果，Dice分数更高，且假阳性更少。
• 消融实验证实，混合跳跃连接设计是性能提升的主要贡献因素。
• 代码已公开发布于GitHub，支持可复现性，并推动高效医学图像分割领域的进一步研究。