[论文解读] Deep ensembles based on Stochastic Activation Selection for Polyp Segmentation

Alessandra Lumini, Loris Nanni+1 more|arXiv (Cornell University)|Apr 2, 2021

Vehicle License Plate Recognition参考文献 29被引用 4

一句话总结

本文提出了一种基于改进DeepLab架构中随机激活选择的深度集成方法，用于息肉分割。通过将ReLU激活函数替换为其他函数，并结合多种解码器变体（ResNet、Xception、EfficientNet、MobileNet），该集成模型在Kvasir-SEG数据集上实现了0.884的Dice分数和0.818的mIoU，展示了息肉分割任务的最先进性能。

ABSTRACT

Semantic segmentation has a wide array of applications ranging from medical-image analysis, scene understanding, autonomous driving and robotic navigation. This work deals with medical image segmentation and in particular with accurate polyp detection and segmentation during colonoscopy examinations. Several convolutional neural network architectures have been proposed to effectively deal with this task and with the problem of segmenting objects at different scale input. The basic architecture in image segmentation consists of an encoder and a decoder: the first uses convolutional filters to extract features from the image, the second is responsible for generating the final output. In this work, we compare some variant of the DeepLab architecture obtained by varying the decoder backbone. We compare several decoder architectures, including ResNet, Xception, EfficentNet, MobileNet and we perturb their layers by substituting ReLU activation layers with other functions. The resulting methods are used to create deep ensembles which are shown to be very effective. Our experimental evaluations show that our best ensemble produces good segmentation results by achieving high evaluation scores with a dice coefficient of 0.884, and a mean Intersection over Union (mIoU) of 0.818 for the Kvasir-SEG dataset. To improve reproducibility and research efficiency the MATLAB source code used for this research is available at GitHub: https://github.com/LorisNanni.

研究动机与目标

• 通过深度学习提升结肠镜检查中息肉分割的准确性。
• 研究不同解码器架构对分割性能的影响。
• 探索通过随机选择替换ReLU激活函数为其他函数的有效性。
• 开发一种鲁棒的深度集成模型，以增强泛化能力和分割准确性。
• 通过发布MATLAB源代码提升可复现性，支持未来研究。

提出的方法

• 该方法采用改进的DeepLab架构，配备共享编码器和多个解码器主干网络（ResNet、Xception、EfficientNet、MobileNet）。
• 通过随机方式将每个解码器中的ReLU激活函数替换为其他激活函数。
• 通过组合多个模型构建集成模型，每个模型采用不同的解码器和随机激活配置。
• 通过平均集成成员的输出获得最终预测，以提升鲁棒性和泛化能力。
• 该方法利用架构多样性与激活函数变化，增强模型不确定性估计和分割准确性。
• 实现代码已发布于GitHub，以确保可复现性并促进未来研究。

实验结果

研究问题

• RQ1 将ReLU替换为其他激活函数对息肉分割性能有何影响？
• RQ2 在结合随机激活选择时，哪种解码器架构（ResNet、Xception、EfficientNet、MobileNet）能获得最佳分割结果？
• RQ3 模型集成在息肉分割任务中在多大程度上提升了分割准确性和鲁棒性？
• RQ4 在多样化解码器架构上采用随机激活选择，是否能实现优于标准模型的泛化性能？
• RQ5 所提出的集成方法与Kvasir-SEG基准上的现有最先进方法相比表现如何？

主要发现

• 所提出的深度集成模型在Kvasir-SEG数据集上取得了0.884的Dice系数，表明预测区域与真实标注区域具有高度重叠。
• 该模型实现了0.818的平均交并比（mIoU），表明其在分割准确性方面表现优异。
• 将多样化解码器架构与随机激活选择相结合，显著提升了分割的鲁棒性和泛化能力。
• 使用替代激活函数替代ReLU有助于改善特征表示和模型稳定性。
• 集成方法优于单个模型，并在Kvasir-SEG基准上建立了新的最先进结果。
• MATLAB源代码的发布增强了方法的可复现性，并支持未来在医学图像分割领域的研究。