[論文レビュー] Learning to Prune Filters in Convolutional Neural Networks

Qiangui Huang, Kevin Zhou+2 more|arXiv (Cornell University)|Jan 23, 2018

Advanced Neural Network Applications参考文献 27被引用数 28

ひとこと要約

本論文は、'試行と学習'フレームワークを用いて、畳み込みニューラルネットワーク（CNN）における冗長なフィルタを自動でプルーニングするデータ駆動型で強化学習に基づく手法を提案する。報酬関数を新たに設計し、プルーニング比と性能維持のバランスを取ることで、方策勾配法を用いてプルーニングエージェントを訓練することで、68.7%のフィルタ削除と53%の推論速度向上を達成し、セマンティックセグメンテーションタスクにおいて精度を維持または向上させた。

ABSTRACT

Many state-of-the-art computer vision algorithms use large scale convolutional neural networks (CNNs) as basic building blocks. These CNNs are known for their huge number of parameters, high redundancy in weights, and tremendous computing resource consumptions. This paper presents a learning algorithm to simplify and speed up these CNNs. Specifically, we introduce a "try-and-learn" algorithm to train pruning agents that remove unnecessary CNN filters in a data-driven way. With the help of a novel reward function, our agents removes a significant number of filters in CNNs while maintaining performance at a desired level. Moreover, this method provides an easy control of the tradeoff between network performance and its scale. Per- formance of our algorithm is validated with comprehensive pruning experiments on several popular CNNs for visual recognition and semantic segmentation tasks.

研究の動機と目的

• 手動でのハイパーパramータチューニングを必要とせず、CNNにおける冗長なフィルタの自動的かつデータ駆動型のプルーニング手法を開発すること。
• プルーニング中にモデル性能とモデルサイズのトレードオフを直接制御できること。
• L1ノルムプルーニングのような手作業で設計された基準には、柔軟性と性能最適化の欠如があるため、それらの限界を克服すること。
• 特に過パラメータ化されたネットワークにおいて、精度を損なわず推論時間を短縮し、モデルサイズを削減すること。
• 人為的介入を排除し、最適なプルーニング比を決定するエンドツーエンドのスケーラブルなソリューションを提供すること。

提案手法

• プルーニングを強化学習の問題として定式化し、プルーニングエージェントがどのフィルタを削除するかを学習する。
• フィルタ重みを入力とし、バイナリ出力（保持／削除）を出力するニューラルネットワークをプルーニングエージェントとして採用する。
• プルーニング比と性能制約（例：精度低下 ≤ b）を組み合わせた、非微分可能な報酬関数を採用する。
• 報酬の期待累積値を最大化するように、方策勾配法（例：REINFORCE）を用いてプルーニングエージェントを訓練する。
• 層ごとの順次プルーニングを実行し、検証指標を用いて性能を監視する。
• 報酬関数を統合し、性能がユーザーが定義した許容範囲内に保たれるように、同時に積極的なプルーニングを促進する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型で学習ベースのアプローチは、L1ノルムのような手作業で設計された基準を上回る性能を示せるか？
• RQ2 強化学習エージェントは人為的介入なしに最適なフィルタプルーニング方策を自動で発見できるか？
• RQ3 本手法はモデル圧縮と性能劣化のトレードオフを効果的に制御できるか？
• RQ4 特に過パラメータ化されたネットワークにおいて、本手法は積極的プルーニング後も精度を維持または向上できるか？
• RQ5 異なるアーキテクチャ（例：FCN-32s、SegNet）およびタスク（例：セマンティックセグメンテーション）において、データセットサイズの変動に応じて本手法はスケーラブルか？

主な発見

• Pascal VOCにおけるFCN-32sでは、63.7%のフィルタ削除を達成し、GPU上で37.0%、CPU上で49.1%の推論速度向上を実現した。
• CamVidにおけるSegNetでは、56.9%のパラメータ削減とグローバル精度2.1%の向上を達成した。一方、マグニチュードベースのプルーニングでは精度が3.0%低下した。
• SegNetの前半ではフィルタの26.9%しかプルーニングされていなかったが、後半では49.2%まで達した。これは非対称な冗長性と適応的プルーニングの能力を示している。
• 同じプルーニング比において、本手法はマグニチュードベースのプルーニング（L1ノルム）を上回り、精度低下を1.5%に抑えるのに対し、L1ノルムでは3.4%の低下を示した。
• 報酬関数は、ユーザーが定義した精度低下許容範囲（例：b=2）内に性能を維持しながら、積極的なプルーニングを可能にした。
• 可視化結果から、プルーニング後のモデルがセマンティックセグメンテーションの品質を保持しており、予測の一貫性に最小限の劣化しか生じていないことが確認された。