[論文レビュー] Dynamic Group Convolution for Accelerating Convolutional Neural Networks

Zhuo Su, Linpu Fang+4 more|arXiv (Cornell University)|Jul 8, 2020

Advanced Neural Network Applications参考文献 61被引用数 4

ひとこと要約

本稿では、入力に依存する特徴量の重要度に基づき、各グループの入力チャネルを動的に選択する、軽量なセレクタを用いた動的グループ畳み込み（DGC）を提案する。DGCは、ネットワーク構造をそのままで計算効率を維持しつつ、CIFAR-10、CIFAR-100、ImageNetベンチマークで最先端の精度を達成し、サンプル固有のチャネル接続を可能にする。

ABSTRACT

Replacing normal convolutions with group convolutions can significantly increase the computational efficiency of modern deep convolutional networks, which has been widely adopted in compact network architecture designs. However, existing group convolutions undermine the original network structures by cutting off some connections permanently resulting in significant accuracy degradation. In this paper, we propose dynamic group convolution (DGC) that adaptively selects which part of input channels to be connected within each group for individual samples on the fly. Specifically, we equip each group with a small feature selector to automatically select the most important input channels conditioned on the input images. Multiple groups can adaptively capture abundant and complementary visual/semantic features for each input image. The DGC preserves the original network structure and has similar computational efficiency as the conventional group convolution simultaneously. Extensive experiments on multiple image classification benchmarks including CIFAR-10, CIFAR-100 and ImageNet demonstrate its superiority over the existing group convolution techniques and dynamic execution methods. The code is available at https://github.com/zhuogege1943/dgc.

研究の動機と目的

• 標準的および学習可能なグループ畳み込みにおける固定でスパースな接続が引き起こす精度の低下を是正すること。
• 特徴表現能力を保持しつつ、グループ内での動的で入力依存のチャネル選択を可能にすること。
• 標準的グループ畳み込みと同等の計算効率を維持しつつ、モデルの精度を向上させること。
• ResNet、MobileNetV2、CondenseNetなどの既存のCNNアーキテクチャと互換性のあるプラグアンドプレイモジュールを設計すること。
• グローバルな閾値処理とヘッド単位の閾値処理戦略の、プルーニング率とパフォーマンスのトレードオフに与える影響を調査すること。

提案手法

• 各グループに対して小さな学習可能な特徴量セレクタを導入し、入力特徴マップに基づいてどの入力チャネルをアクティブ化するかを動的に決定する。
• 微分可能なゲーティング機構を用いてチャネル重要度スコアを計算し、エンドツーエンドの学習を可能にする。
• ヘッド単位またはグローバルな閾値処理を用いて、関連性の低い入力チャネルをプルーニングし、適応的でスパースな接続を形成する。
• ミニバッチからの活性化統計を用いて、3エポックごとに閾値を動的に更新するサリエンシー・ライブラリアプローチを採用する。
• ヘッド間の直交性を促進し、特徴の多様性を高めるために、アングル拡大損失を組み込む。
• ヘッド単位およびグローバルな閾値処理の両方をサポートし、後者は層ごとのプルーニング率を調整可能にし、性能向上を図るが、構造的不規則性が増加する。

実験結果

リサーチクエスチョン

• RQ1 グループ内での動的で入力に適応したチャネル選択は、計算効率を損なわずに精度を向上させることができるか？
• RQ2 DGCは、静的グループ畳み込みや他の動的実行手法と比較して、精度と速度の面でどのように異なるか？
• RQ3 グローバルな閾値処理とヘッド単位の閾値処理の違いが、プルーニング率とモデルパフォーマンスに与える影響は何か？
• RQ4 DGCは、アーキテクチャの変更なしに、ResNet や CondenseNet などの既存のCNNアーキテクチャに効果的に統合可能か？
• RQ5 ヘッド間でサリエンシー・ベクトルを直交的に保つように促すことで、特徴表現と一般化性能が向上するか？

主な発見

• DGCは、CondenseNet-86-DGC-G構造を用いてImageNetでTop-1誤差4.42%を達成し、元のCondenseNet-86（5.00%）および他の最先端のフィルタレベルプルーニング手法を上回った。
• CIFAR-100では、71M MACsで誤差を23.36%まで低下させ、元のCondenseNet-86（23.64%）および他のプルーニングモデルを上回った。
• 推論中の実際のプルーニング率は、目標値ξと非常に近い値を示しており、閾値の適応が効果的で安定していることを示している。
• グローバル閾値処理はヘッド単位の閾値処理よりもわずかに高い精度（ImageNetのTop-1誤差25.2% vs. 25.8%）を達成したが、構造的不規則性が増加した。
• アングル拡大損失は、グローバル閾値処理を用いる場合にのみわずかな向上をもたらし、直交性は主にヘッド単位の学習によって達成されていることが示唆された。
• DGCは、補助的なセレクタによるオーバーヘッドが最小限であるため、標準的グループ畳み込みと同等の計算効率を維持している。