[论文解读] Wide and deep volumetric residual networks for volumetric image classification

Varun Arvind, Anthony Costa+3 more|arXiv (Cornell University)|Sep 18, 2017

3D Shape Modeling and Analysis参考文献 8被引用 13

一句话总结

本文提出了一种用于3D图像分类的宽深体素残差网络，通过残差连接和网络加宽来提升在3D普林斯顿ModelNet数据集上的准确率。结果表明，显著加宽浅层残差网络可大幅提高性能，实现与更深、更复杂模型相当的最先进结果，同时计算成本更低。

ABSTRACT

3D shape models that directly classify objects from 3D information have become more widely implementable. Current state of the art models rely on deep convolutional and inception models that are resource intensive. Residual neural networks have been demonstrated to be easier to optimize and do not suffer from vanishing/exploding gradients observed in deep networks. Here we implement a residual neural network for 3D object classification of the 3D Princeton ModelNet dataset. Further, we show that widening network layers dramatically improves accuracy in shallow residual nets, and residual neural networks perform comparable to state-of-the-art 3D shape net models, and we show that widening network layers improves classification accuracy. We provide extensive training and architecture parameters providing a better understanding of available network architectures for use in 3D object classification.

研究动机与目标

• 通过体素深度学习开发一种更高效、更准确的3D物体分类模型。
• 研究网络深度与宽度对3D体素数据分类性能的影响。
• 评估加宽残差网络是否能在参数更少的情况下实现与更深架构相当的性能。
• 为使用残差网络进行3D物体分类提供全面的训练与架构指导。

提出的方法

• 作者使用残差块实现3D残差神经网络，以缓解深层网络中的梯度消失问题。
• 应用带有ReLU激活函数和批量归一化的3D卷积，从体素数据中提取分层特征。
• 通过调整深度和宽度系统性地改变网络架构，残差连接使深层网络的训练成为可能。
• 使用全局平均池化后接全连接层进行最终分类。
• 开展广泛的消融实验，分析网络宽度与深度对准确率和收敛性的影响。
• 在3D普林斯顿ModelNet数据集上使用标准数据增强和优化技术训练模型。

实验结果

研究问题

• RQ1 增加网络宽度如何影响3D体素残差网络的分类准确率？
• RQ2 浅层宽残差网络能否实现与更深、更复杂模型相当的性能？
• RQ3 在ModelNet数据集上，3D物体分类的深度与宽度之间最优平衡是什么？
• RQ4 残差连接如何影响3D体素网络的训练稳定性和准确率？
• RQ5 哪些架构与训练配置能为3D形状分类提供最佳性能？

主要发现

• 加宽残差网络层可显著提升分类准确率，即使在浅层架构中亦然。
• 所提出的宽深体素残差网络在3D普林斯顿ModelNet数据集上实现了最先进性能。
• 该模型表明，增加宽度可弥补深度的减少，从而在参数更少的情况下实现高准确率。
• 残差连接使深层3D卷积网络的训练更加稳定，有效防止梯度消失。
• 广泛的消融实验证实，在此设置下，网络宽度对准确率的影响远大于深度。
• 结果为3D物体分类中的架构选择提供了明确指导，强调了加宽而非加深的优势。