[论文解读] The Importance of Skip Connections in Biomedical Image Segmentation

Michal Drozdzal, Eugene Vorontsov+3 more|arXiv (Cornell University)|Aug 14, 2016

Advanced Neural Network Applications参考文献 19被引用 112

一句话总结

本文分析深度卷积网络在生物医学图像分割中的长短跳跃连接的影响，结果显示将两者结合可加速训练，并在EM数据上实现接近最先进水平的无后处理分割。

ABSTRACT

In this paper, we study the influence of both long and short skip connections on Fully Convolutional Networks (FCN) for biomedical image segmentation. In standard FCNs, only long skip connections are used to skip features from the contracting path to the expanding path in order to recover spatial information lost during downsampling. We extend FCNs by adding short skip connections, that are similar to the ones introduced in residual networks, in order to build very deep FCNs (of hundreds of layers). A review of the gradient flow confirms that for a very deep FCN it is beneficial to have both long and short skip connections. Finally, we show that a very deep FCN can achieve near-to-state-of-the-art results on the EM dataset without any further post-processing.

研究动机与目标

• 研究跳跃连接如何影响深层FCN在生物医学图像分割中的训练动力学。
• 将残差网络扩展为带有上采样路径的分割模型。
• 评估长跳连接与短跳连接在收敛性和性能方面的相对收益。

提出的方法

• 将残差网络扩展为具有用于分割的上采样路径的全卷积网络。
• 在残差块周围引入短跳连接，以实现极深的体系结构。
• 尝试不同的块类型（瓶颈、基础、简单），并使用二元交叉熵和Dice损失进行评估。
• 在EM ISBI 2012数据集上进行训练，使用数据增强并分析不同架构的训练/验证曲线。
• 将 dropout 用作残差块中的可选正则化项，以研究其对性能和收敛性的影响。

实验结果

研究问题

• RQ1 在生物医学分割中，向非常深的FCN加入短跳连接对训练收敛性有何影响？
• RQ2 在非常深的网络中，长跳连接和短跳连接同时使用是否优于任一类型单独使用？
• RQ3 一个非常深的FCN是否能在EM数据上实现接近最先进的分割且无需后处理？
• RQ4 在此设置中，不同的损失函数（二元交叉熵与Dice损失）与跳跃连接如何相互作用？

主要发现

• 同时具备长跳和短跳连接的极深FCN收敛更快、性能优于仅使用一种跳跃连接的网络。
• 短跳连接在深层网络中稳定参数更新，缓解梯度消失效应。
• 没有跳跃连接的网络在很深的层次上难以学习，而批量归一化提高了可训练性和深度。
• 使用Dice损失训练的模型比使用二元交叉熵训练的模型产生的分割在视觉上更干净，测试时的dropout提供了隐式模型平均的好处。
• 该深度FCN在EM ISBI 2012数据集上实现了接近最先进的性能，且无需任何后处理。