[论文解读] Neural Ordinary Differential Equations for Semantic Segmentation of Individual Colon Glands

Hans Pinckaers, Geert Litjens|arXiv (Cornell University)|Oct 23, 2019

Radiomics and Machine Learning in Medical ImagingMedicine被引用 20

一句话总结

本文提出U-Node，一种基于神经常微分方程（NODE）增强的U-Net，用于组织病理学图像中结肠腺体的语义分割。通过用连续深度的NODE替代标准残差块，该方法在仅使用200万参数（相比U-Net的3000万参数减少93%）和更低内存消耗的前提下，实现了更高的分割精度，同时在推理和训练过程中通过可变函数评估实现自适应感受野，实验基于GlaS数据集进行。

ABSTRACT

Automated medical image segmentation plays a key role in quantitative research and diagnostics. Convolutional neural networks based on the U-Net architecture are the state-of-the-art. A key disadvantage is the hard-coding of the receptive field size, which requires architecture optimization for each segmentation task. Furthermore, increasing the receptive field results in an increasing number of weights. Recently, Neural Ordinary Differential Equations (NODE) have been proposed, a new type of continuous depth deep neural network. This framework allows for a dynamic receptive field at a fixed memory cost and a smaller amount of parameters. We show on a colon gland segmentation dataset (GlaS) that these NODEs can be used within the U-Net framework to improve segmentation results while reducing memory load and parameter counts.

研究动机与目标

• 为解决标准U-Net架构中感受场固定所带来的局限性，此类架构需手动调参，且随着深度增加导致参数量上升。
• 探究神经常微分方程（NODEs）是否能在医学图像分割中实现内存高效、自适应感受场。
• 评估基于NODE的网络在GlaS结肠腺体分割基准上的性能，与标准U-Net及残差基线模型进行比较。
• 证明NODE可通过动态、上下文感知的特征学习，显著减少模型大小和内存占用，同时提升分割精度。

提出的方法

• 将神经ODE集成到U-Net的编码器和解码器路径中，用由ODE系统定义的连续深度块替代标准残差块。
• 采用伴随法实现ODE求解器的高效反向传播，避免存储中间激活值，从而降低内存消耗。
• 使用五阶Dormand-Prince（dopri5）ODE求解器，容差设为1e-3，以在精度与计算成本之间取得平衡。
• 对每张图像和每一层采用可变数量的函数评估（NFE），实现根据输入复杂度自适应调整感受野。
• 使用Adam优化器进行训练，结合数据增强（平移、翻转、旋转、弹性形变、色彩抖动）和交叉熵损失函数。
• 在测试阶段采用翻转与平均的增强策略，以提升模型鲁棒性与泛化能力。

实验结果

研究问题

• RQ1 神经ODE是否能在减少模型大小和内存使用的同时，提升医学图像语义分割的性能？
• RQ2 NODEs的自适应感受场是否能提升复杂组织病理学图像上的泛化能力和分割精度？
• RQ3 与标准U-Net及残差U-Net变体相比，NODE增强的U-Net在结肠腺体分割任务中的表现如何？
• RQ4 NODE的连续深度架构是否能在远少于标准U-Net的参数量下，仍保持高精度？

主要发现

• U-Node在GlaS完整测试集上取得了0.881的物体Dice分数，优于标准U-Net（0.868）和U-ResNet（0.757）。
• U-Node的Hausdorff距离为59.5，显著低于U-Net（69.6）和U-ResNet（122），表明其形状相似性更优。
• 尽管仅使用200万参数（相比U-Net的3000万参数减少93%），U-Node在所有指标上均达到或超过原始U-Net的性能。
• 定性结果表明，该模型分割质量更高，噪声更少，边界勾勒更清晰，尤其在较大腺体上表现更优。
• 通过可变函数评估实现的自适应感受场，使网络能动态调整上下文使用策略，尤其在困难样本上采用更高NFE时获益显著。
• 由于需重复调用ODE求解器，训练速度慢于标准U-Net，但该方法可通过控制NFE在推理阶段灵活实现速度与精度的权衡。