[论文解读] Practical Block-wise Neural Network Architecture Generation

Zhao Zhong, Junjie Yan+3 more|arXiv (Cornell University)|Aug 18, 2017

Advanced Neural Network Applications参考文献 43被引用 20

一句话总结

该论文提出 BlockQNN，一种基于 Q-learning 的框架，用于自动、分块式神经网络架构生成，在 CIFAR-10 上实现了 3.54% 的 top-1 错误率，达到当前最先进性能。通过训练智能体按顺序选择最优的模块化组件，并结合早停和分布式训练策略，BlockQNN 有效缩小了搜索空间并降低了计算成本——仅用 32 块 GPU 在 3 天内即实现收敛，同时在 ImageNet 上也展现出强大的可迁移性。

ABSTRACT

Convolutional neural networks have gained a remarkable success in computer vision. However, most usable network architectures are hand-crafted and usually require expertise and elaborate design. In this paper, we provide a block-wise network generation pipeline called BlockQNN which automatically builds high-performance networks using the Q-Learning paradigm with epsilon-greedy exploration strategy. The optimal network block is constructed by the learning agent which is trained sequentially to choose component layers. We stack the block to construct the whole auto-generated network. To accelerate the generation process, we also propose a distributed asynchronous framework and an early stop strategy. The block-wise generation brings unique advantages: (1) it performs competitive results in comparison to the hand-crafted state-of-the-art networks on image classification, additionally, the best network generated by BlockQNN achieves 3.54% top-1 error rate on CIFAR-10 which beats all existing auto-generate networks. (2) in the meanwhile, it offers tremendous reduction of the search space in designing networks which only spends 3 days with 32 GPUs, and (3) moreover, it has strong generalizability that the network built on CIFAR also performs well on a larger-scale ImageNet dataset.

研究动机与目标

• 解决手动设计高性能卷积神经网络所面临的高计算成本与复杂性问题。
• 通过聚焦于分块式而非逐层的神经网络架构生成，减少神经架构搜索中的搜索空间。
• 开发一种高效、可扩展且可泛化的自动神经网络架构生成方法。
• 实现在 CIFAR-100 和 ImageNet 等数据集上生成网络的快速收敛与可迁移性。

提出的方法

• 训练一个带有经验回放和 ε-贪婪探索的 Q-learning 智能体，按顺序选择单个网络模块的最优组件层。
• 通过强化学习生成最优模块，采用自定义奖励函数，使其与早停后的性能和收敛模型的准确率相关联。
• 采用早停策略通过早期识别高性能模块来加速训练，从而减少总训练时间。
• 采用分布式异步框架，实现跨 32 块 GPU 的高效扩展，显著缩短搜索时间。
• 通过堆叠生成的最优模块构建最终网络，实现模块化且可泛化的架构设计。
• 该方法支持自适应模块数量和参数约束，进一步提升效率与模型紧凑性。

实验结果

研究问题

• RQ1 分块式神经架构搜索框架是否能在显著降低计算成本的前提下实现最先进性能？
• RQ2 结合早停的 Q-learning 在加速发现高性能网络模块方面效果如何？
• RQ3 在 CIFAR-10 上自动生成的网络在多大程度上可泛化到 ImageNet 等大规模数据集？
• RQ4 所提方法是否能在准确率和搜索效率两方面均优于随机搜索与现有 NAS 方法？

主要发现

• BlockQNN 在 CIFAR-10 上实现 3.54% 的 top-1 错误率，优于所有现有自动生成的网络。
• 该方法仅用 32 块 GPU 在 3 天内即实现收敛，相较 NAS 使用 800 块 GPU 需 28 天，展现出显著的效率优势。
• BlockQNN 生成的最佳模型在 CIFAR-100 上的 top-5 准确率比随机搜索高出 1% 以上，且训练迭代次数相当。
• 在参数和模块数量约束下，BlockQNN-L 仍比其随机搜索基线在利用阶段高出 1% 以上。
• 在 MPII 上为人体关键点检测自动生成的网络在 COCO 上达到 70.5 AP，优于当前最先进模型 hourglass-2-stacks（70.1 AP）。
• 进化过程表明，BlockQNN 学会生成包含跳跃连接和拼接操作的复杂多分支结构，表明其有效学习了通用设计原则。