[论文解读] UCM-Net: A Lightweight and Efficient Solution for Skin Lesion Segmentation using MLP and CNN

Chunyu Yuan, Dongfang Zhao+1 more|arXiv (Cornell University)|Oct 14, 2023

Cutaneous Melanoma Detection and Management被引用 4

一句话总结

UCM-Net 提出了一种轻量级、高效的深度学习模型，通过创新的 UCM-Net 模块将多层感知机（MLP）与卷积神经网络（CNN）相结合，实现了参数量低于 50KB、计算量低于 0.05 GLOPs 的最先进性能，适用于移动健康设备的部署。

ABSTRACT

Skin cancer poses a significant public health challenge, necessitating efficient diagnostic tools. We introduce UCM-Net, a novel skin lesion segmentation model combining Multi-Layer Perceptrons (MLP) and Convolutional Neural Networks (CNN). This lightweight, efficient architecture, deviating from traditional UNet designs, dramatically reduces computational demands, making it ideal for mobile health applications. Evaluated on PH2, ISIC 2017, and ISIC 2018 datasets, UCM-Net demonstrates robust performance with fewer than 50KB parameters and requires less than 0.05 Giga Operations Per Second (GLOPs). Moreover, its minimal memory requirement is just 1.19MB in CPU environment positions. It is a potential benchmark for efficiency in skin lesion segmentation, suitable for deployment in resource-constrained settings. In order to facilitate accessibility and further research in the field, the UCM-Net source code is https://github.com/chunyuyuan/UCM-Net.

研究动机与目标

• 解决在资源受限的移动设备和即时医疗设备上部署高精度皮肤病变分割模型的挑战。
• 克服现有深度学习模型对高计算资源和大参数量的依赖。
• 设计一种结合 CNN 与 MLP 的混合架构，以增强特征学习能力，同时最小化模型大小和推理成本。
• 提升在具有多样化外观、边界模糊和成像伪影的复杂皮肤病变图像上的分割精度。
• 通过高度高效、低资源占用的模型实现实时、设备端的皮肤癌诊断，适用于便携式医疗设备。

提出的方法

• 提出 UCM-Net 模块，一种混合模块，通过整合 CNN 与 MLP 组件，在减少参数量的同时增强特征表示能力。
• 设计一种基于轻量级 U-Net 的编码器-解码器架构，采用多个 UCM-Net 模块，在保持高分割性能的同时最小化参数量。
• 引入 Group Loss 函数，通过联合优化多个损失组件，提升训练稳定性和分割精度。
• 通过减少网络的深度和宽度来优化模型效率，同时保持特征层次结构和空间分辨率。
• 通过 UCM-Net 模块隐式使用通道分离和深度可分离卷积，以降低 FLOPs 和参数量。
• 在 ISIC2017 和 ISIC2018 数据集上使用标准数据增强和学习率调度策略进行训练与微调。

实验结果

研究问题

• RQ1 混合 CNN-MLP 架构能否在显著减少模型大小和计算成本的前提下实现更优的皮肤病变分割性能？
• RQ2 与标准卷积模块相比，所提出的 UCM-Net 模块在参数效率和分割精度方面表现如何？
• RQ3 与标准损失函数相比，Group Loss 函数在皮肤病变分割中能多大程度上提升分割性能？
• RQ4 参数量少于 50KB 且计算量低于 0.05 GLOPs 的模型能否在基准皮肤病变分割数据集中实现最先进性能？
• RQ5 由于其低推理成本和极小的内存占用，该模型是否适合在移动和边缘设备上部署？

主要发现

• 在使用 Group Loss 的情况下，UCM-Net 在 ISIC2017 数据集上实现了 80.63% 的平均交并比（mIoU）和 87.64% 的平均 Dice 相似系数（mDice），优于基线 U-Net 和其他最先进模型。
• 该模型仅包含 49,932 个参数和 0.0465 GFLOPs 的计算量，是首个参数量低于 50KB 且计算量低于 0.05 GLOPs 的皮肤病变分割模型。
• UCM-Net 在 mIoU 和 mDice 上均优于 EGE-UNet，且参数量更少、计算成本更低，即使两者使用相同通道数。
• 消融实验证实，即使参数量大幅减少，用 UCM-Net 模块替代标准卷积模块仍能提升性能，mIoU 从 78.48% 提升至 79.76%。
• 引入 Group Loss 进一部提升性能，使 mIoU 从 79.76% 提升至 80.63%，mDice 从 86.94% 提升至 87.64%，证明其在优化分割质量方面的有效性。
• 图 5 的可视化结果表明，UCM-Net 的分割输出与真实标注高度一致，表明其在复杂病变病例中具备高精度和良好的边界遵循能力。