[论文解读] Convolutional Neural Networks at Constrained Time Cost

Kaiming He, Jian Sun|arXiv (Cornell University)|Dec 4, 2014

Advanced Neural Network Applications参考文献 20被引用 26

一句话总结

本文提出了一种针对受限推理和训练时间优化的卷积神经网络架构，通过层替换策略在保持计算成本不变的前提下平衡深度、宽度和滤波器大小。在 ImageNet 上实现了 11.8% 的 top-5 错误率，推理速度比 AlexNet 快 20%，复杂度降低 40%，表明在时间约束下深度是对准确率影响最大的因素。

ABSTRACT

Though recent advanced convolutional neural networks (CNNs) have been improving the image recognition accuracy, the models are getting more complex and time-consuming. For real-world applications in industrial and commercial scenarios, engineers and developers are often faced with the requirement of constrained time budget. In this paper, we investigate the accuracy of CNNs under constrained time cost. Under this constraint, the designs of the network architectures should exhibit as trade-offs among the factors like depth, numbers of filters, filter sizes, etc. With a series of controlled comparisons, we progressively modify a baseline model while preserving its time complexity. This is also helpful for understanding the importance of the factors in network designs. We present an architecture that achieves very competitive accuracy in the ImageNet dataset (11.8% top-5 error, 10-view test), yet is 20% faster than "AlexNet" (16.0% top-5 error, 10-view test).

研究动机与目标

• 研究在实际部署时间成本受限条件下，网络深度、宽度、滤波器大小与步长之间的权衡关系。
• 开发一种在严格时间与计算预算内仍能保持高准确率的 CNN 架构。
• 理解在固定时间复杂度下，架构因素（深度、宽度、滤波器大小、步长）对准确率的相对重要性。
• 提供一种适用于工业与商业应用（包括移动与云环境）的实用、快速且准确的模型。

提出的方法

• 采用层替换策略修改基线 CNN，同时保持其时间复杂度，从而实现对不同架构因素的可控比较。
• 通过替换为等时替代层，系统性地调整深度、宽度、滤波器大小与步长，以隔离其对准确率的影响。
• 采用受控实验设计，固定时间成本，评估每项架构变化对 ImageNet top-1 与 top-5 错误率的影响。
• 在单块 Nvidia Titan GPU 上重新实现并基准测试模型，测量每批次的训练与推理实际耗时。
• 使用 10 视图测试增强，并同时评估训练与推理时间，以反映真实部署环境的约束。
• 在相同评估协议下，与现有快速模型（如 AlexNet、ZF-fast、SPPnet）及最先进模型（如 VGG-16、GoogLeNet）进行对比。

实验结果

研究问题

• RQ1 当时间成本受限且其他因素被调整时，增加网络深度如何影响准确率？
• RQ2 在固定时间复杂度下，深度、宽度、滤波器大小与步长对准确率的相对影响是什么？
• RQ3 能否设计出一种模型，在保持相同时间预算的前提下，比现有快速模型（如 AlexNet）更快且更准确？
• RQ4 在不牺牲宽度或滤波器大小的情况下，深度增加到何种程度会导致准确率下降？

主要发现

• 所提模型在 ImageNet 上使用 10 视图测试时，实现 11.8% 的 top-5 错误率，优于 AlexNet 的 16.0% top-5 错误率。
• 在单块 Titan GPU 上，该模型的实际 GPU 推理时间比 AlexNet 快 20%，每批次耗时 0.41 秒。
• 尽管复杂度比 AlexNet 低 40%，该模型仍实现 top-5 错误率降低 4.2%，top-1 错误率降低 5.8%。
• 即使在减少宽度与滤波器大小以维持时间成本的前提下，增加深度仍能显著提升准确率，表明深度具有最高优先级。
• 过度增加深度即使不牺牲其他因素，也会导致准确率停滞或下降，表明存在性能上限。
• 该模型在单块 GPU 上训练耗时 3 至 4 天，且显著快于多项近期快速模型（如 CNN-F、ZF-fast、SPPnet），同时准确率更高。