[論文レビュー] ADC: Automated Deep Compression and Acceleration with Reinforcement Learning.

Yihui He, Song Han|arXiv (Cornell University)|Feb 10, 2018

Advanced Neural Network Applications参考文献 36被引用数 59

ひとこと要約

本論文では、モバイルデプロイ用にニューラルネットワークモデル圧縮を自動化する強化学習ベースの手法である Automated Deep Compression (ADC) を提案する。精度-圧縮-速度のトレードオフ空間を効率的に探索することで、ADCは最先端の結果を達成した—VGG-16では4× FLOPs削減の条件下で手作業で最適化された手法よりも2.7%高い精度を達成し、MobileNetでは1.65×の速度向上を達成しながらFLOPsを2倍に削減し、精度の損失は最小限に抑えられた。

ABSTRACT

Model compression is an effective technique facilitating the deployment of neural network models on mobile devices that have limited computation resources and a tight power budget. However, conventional model compression techniques use hand-crafted features and require domain experts to explore the large design space trading off model size, speed, and accuracy, which is usually sub-optimal and time-consuming. In this paper, we propose Automated Deep Compression (ADC) that leverages reinforcement learning in order to efficiently sample the design space and greatly improve the model compression quality. We achieved state-of-the-art model compression results in a fully automated way without any human efforts. Under 4x FLOPs reduction, we achieved 2.7% better accuracy than hand-crafted model compression method for VGG-16 on ImageNet. We applied this automated, push-the-button compression pipeline to MobileNet and achieved a 2x reduction in FLOPs, and a speedup of 1.49x on Titan Xp and 1.65x on an Android phone (Samsung Galaxy S7), with negligible loss of accuracy.

研究の動機と目的

• 専門家によるチューニングを要する非効率的で最適でない手作業によるモデル圧縮手法の課題を解決すること。
• モデルサイズ、推論速度、精度のバランスを取る大きな設計空間の自動探索を可能にすること。
• モバイルデプロイ用に、人為的介入なしに完全に自動化された、ワンクリック圧縮を可能にすること。
• 従来の専門家主導の手法では到達できない圧縮品質の向上を図ること。

提案手法

• ADCは強化学習を用いてモデル圧縮空間を探索し、圧縮意思決定を逐次的アクションとして扱う。
• エージェントはチャネルプルーニング、知識蒸留、量子化などの最適な圧縮操作を選択する学習を行う。
• 状態空間は現在のモデル特徴（例：FLOPs、精度）を符号化し、行動空間には圧縮操作が含まれる。
• 報酬関数は精度を最大化すると同時にFLOPsとモデルサイズを最小化することを目的とし、エンドツーエンド最適化を可能にする。
• 報酬関数は、政策勾配法を用いてエンドツーエンドで訓練され、圧縮ポリシーを最適化する。
• パイプラインは完全に自動化されており、手動チューニングやドメイン専門知識を一切不要としない。

実験結果

リサーチクエスチョン

• RQ1 強化学習を用いることで、人為的介入なしにモデル圧縮プロセスを効果的に自動化できるか？
• RQ2 強化学習ベースのアプローチは、精度と効率の両面で手作業による圧縮手法を上回るか？
• RQ3 本手法はVGG-16やMobileNetのような異なるアーキテクチャに一般化可能か？
• RQ4 本手法は、モバイルプラットフォーム上で高い精度を維持したまま、どの程度FLOPsを削減できるか？

主な発見

• 4× FLOPs削減の条件下で、ADCはImageNetを用いたVGG-16において、手作業で最適化された圧縮手法よりもトップ-1精度で2.7%高い結果を達成した。
• MobileNetでは、FLOPsを2倍に削減しながらも、精度の低下はほとんど見られなかった。
• Titan Xp GPU上では、圧縮済みのMobileNetモデルが1.49×の速度向上を達成した。
• Android端末（Samsung Galaxy S7）上では、モデルが1.65×の速度向上を達成し、精度の低下は最小限に抑えられた。
• 本手法は完全に自動化された形で最先端の圧縮品質を実現した。
• 専門家によるチューニングの必要性が排除され、ワンクリック圧縮パイプラインが実現された。