[论文解读] Deep and Wide Multiscale Recursive Networks for Robust Image Labeling

Gary B. Huang, Viren Jain|arXiv (Cornell University)|Oct 1, 2013

Cell Image Analysis Techniques被引用 24

一句话总结

本文提出了一种用于鲁棒图像标注的深度宽多尺度递归（DAWMR）网络，结合了宽特征表示、通过多尺度和递归处理实现的大感受野，以及一种新颖的局部误差密度加权方案。该架构在3D神经回路重建任务中达到最先进性能，12层DAWMR模型在边界预测任务中达到95.22%的Rand Index，显著优于标准卷积网络。

ABSTRACT

Feedforward multilayer networks trained by supervised learning have recently demonstrated state of the art performance on image labeling problems such as boundary prediction and scene parsing. As even very low error rates can limit practical usage of such systems, methods that perform closer to human accuracy remain desirable. In this work, we propose a new type of network with the following properties that address what we hypothesize to be limiting aspects of existing methods: (1) a `wide' structure with thousands of features, (2) a large field of view, (3) recursive iterations that exploit statistical dependencies in label space, and (4) a parallelizable architecture that can be trained in a fraction of the time compared to benchmark multilayer convolutional networks. For the specific image labeling problem of boundary prediction, we also introduce a novel example weighting algorithm that improves segmentation accuracy. Experiments in the challenging domain of connectomic reconstruction of neural circuity from 3d electron microscopy data show that these "Deep And Wide Multiscale Recursive" (DAWMR) networks lead to new levels of image labeling performance. The highest performing architecture has twelve layers, interwoven supervised and unsupervised stages, and uses an input field of view of 157,464 voxels ($54^3$) to make a prediction at each image location. We present an associated open source software package that enables the simple and flexible creation of DAWMR networks.

研究动机与目标

• 为解决现有深度网络在图像标注中的局限性，特别是特征表示过窄和感受野有限的问题。
• 提升边界预测和场景解析任务的准确性，特别是在神经回路连接组重建等高风险领域。
• 通过可并行化、非端到端的架构实现更快训练，避免在递归阶段进行反向传播。
• 开发一种计算高效的样本加权方案，聚焦于拓扑上关键且难以分割的区域。
• 证明递归迭代与宽特征学习可显著优于标准深度网络，在复杂3D图像标注任务中表现更优。

提出的方法

• DAWMR网络采用宽、多尺度架构，每层包含数千个特征，具备高表征能力。
• 通过核心网络的递归迭代逐步扩展每个预测的有效感受野，利用标签空间依赖关系。
• 提出一种新颖的局部误差密度（LED）加权算法，根据局部分割难度和拓扑相关性动态调整训练样本权重。
• 网络整合多尺度处理路径、池化操作与递归反馈，以增强上下文融合并减少局部模糊性。
• 架构设计为完全可并行化，可在CPU集群或GPU上一天内完成训练，相较标准卷积网络的两周训练时间有显著加速。
• 递归迭代生成的中间亲和图可转换为分割结果，支持在后续阶段使用不可微的形态学特征。

实验结果

研究问题

• RQ1 与标准深度卷积网络相比，宽、多尺度、递归网络架构是否能显著提升图像标注准确性？
• RQ2 通过递归迭代扩展有效感受野并利用标签空间统计特性，是否能提升核心网络架构的性能？
• RQ3 一种优先关注困难且拓扑相关样本的局部误差密度加权方案，是否能提升3D电子显微镜数据中边界预测的准确性？
• RQ4 能否通过非端到端、可并行化的架构实现连接组重建的最先进性能，且避免在递归阶段进行完整反向传播？
• RQ5 在复杂图像标注任务中，多尺度处理、池化与递归等上下文整合策略的相对有效性如何比较？

主要发现

• 采用递归迭代的DAWMR网络在完整测试集上达到0.9522的Rand Index，显著优于非递归架构和标准卷积网络。
• MS-FV-DO w iter 3架构实现AUC-edge为0.9904，Rand Index为0.9522，证明了递归优化的益处。
• 即使总感受野较小，递归DAWMR网络的第三次迭代仍优于感受野极大的非递归架构，表明迭代式上下文整合具有显著价值。
• 局部误差密度（LED）加权方案通过聚焦于困难且拓扑相关的区域，提升了边界预测准确性，减少了过度分割错误。
• DAWMR网络在CPU集群上仅用一天即完成训练，而基于GPU的标准卷积网络需两周，展现出显著的速度优势。
• 视觉检查确认，卷积网络因错误的正向亲和边导致更多过度分割错误，而DAWMR输出更具一致性与准确性。