[论文解读] ADC: Automated Deep Compression and Acceleration with Reinforcement Learning.

Yihui He, Song Han|arXiv (Cornell University)|Feb 10, 2018

Advanced Neural Network Applications参考文献 36被引用 59

一句话总结

本文提出自动化深度压缩（ADC），一种基于强化学习的方法，可实现移动端部署的神经网络模型压缩自动化。通过高效探索准确率-压缩-速度权衡空间，ADC 实现了最先进性能——在 VGG-16 上实现 4× FLOPs 降低时，准确率比手工设计方法高出 2.7%；在 MobileNet 上实现 2× FLOPs 降低，且准确率损失可忽略不计。

ABSTRACT

Model compression is an effective technique facilitating the deployment of neural network models on mobile devices that have limited computation resources and a tight power budget. However, conventional model compression techniques use hand-crafted features and require domain experts to explore the large design space trading off model size, speed, and accuracy, which is usually sub-optimal and time-consuming. In this paper, we propose Automated Deep Compression (ADC) that leverages reinforcement learning in order to efficiently sample the design space and greatly improve the model compression quality. We achieved state-of-the-art model compression results in a fully automated way without any human efforts. Under 4x FLOPs reduction, we achieved 2.7% better accuracy than hand-crafted model compression method for VGG-16 on ImageNet. We applied this automated, push-the-button compression pipeline to MobileNet and achieved a 2x reduction in FLOPs, and a speedup of 1.49x on Titan Xp and 1.65x on an Android phone (Samsung Galaxy S7), with negligible loss of accuracy.

研究动机与目标

• 解决手工设计模型压缩技术效率低下且次优的问题，这些技术需要专家调优。
• 自动化探索平衡模型大小、推理速度和准确率的庞大设计空间。
• 实现完全自动化、一键式压缩，无需人工干预，适用于移动端部署。
• 在传统专家驱动方法无法达到的范围内，进一步提升压缩质量。

提出的方法

• ADC 采用强化学习搜索模型压缩空间，将压缩决策视为一系列连续动作。
• 智能体学习选择最优压缩操作，如通道剪枝、知识蒸馏和量化。
• 状态空间编码当前模型特征（如 FLOPs、准确率），动作空间包含各类压缩操作。
• 奖励函数旨在最大化准确率，同时最小化 FLOPs 和模型大小，实现端到端优化。
• 采用策略梯度方法端到端训练，以优化压缩策略。
• 整个流程完全自动化，无需手动调优或领域专业知识。

实验结果

研究问题

• RQ1 强化学习能否在无需人工干预的情况下有效自动化模型压缩过程？
• RQ2 基于强化学习的方法在准确率和效率方面是否优于手工设计的压缩技术？
• RQ3 该方法能否在 VGG-16 和 MobileNet 等不同架构上实现良好泛化？
• RQ4 该方法在移动端平台上能将 FLOPs 降低到何种程度，同时保持高准确率？

主要发现

• 在 FLOPs 降低 4× 的条件下，ADC 在 ImageNet 上对 VGG-16 的 Top-1 准确率比手工设计压缩方法高出 2.7%。
• 对于 MobileNet，ADC 实现了 FLOPs 降低 2×，且准确率损失可忽略不计。
• 在 Titan Xp GPU 上，压缩后的 MobileNet 模型实现了 1.49× 的加速。
• 在 Android 手机（三星 Galaxy S7）上，模型实现了 1.65× 的加速，且准确率下降极小。
• 该方法以完全自动化的方式实现了最先进水平的压缩质量。
• 该方法消除了对专家调优的需求，实现了真正的一键式压缩流水线。