[論文レビュー] Progressive Neural Networks for Image Classification

Zhang Zhi, Guanghan Ning+5 more|arXiv (Cornell University)|Apr 25, 2018

Advanced Neural Network Applications参考文献 12被引用数 7

ひとこと要約

本論文では、視覚認識の難易度に応じて各画像の推論複雑度を動的に調整するプログレッシブニューラルネットワークフレームワークであるProgNetを提案する。段階的に能力を高めるステージを順次活性化し、学習された信頼度ベースの意思決定ポリシーを用いることで、1つのモデルで10倍の複雑度範囲にわたって最先端の精度を達成し、MobileNetおよびDenseNetの変種よりも精度-複雑度トレードオフにおいて優れている。

ABSTRACT

The inference structures and computational complexity of existing deep neural networks, once trained, are fixed and remain the same for all test images. However, in practice, it is highly desirable to establish a progressive structure for deep neural networks which is able to adapt its inference process and complexity for images with different visual recognition complexity. In this work, we develop a multi-stage progressive structure with integrated confidence analysis and decision policy learning for deep neural networks. This new framework consists of a set of network units to be activated in a sequential manner with progressively increased complexity and visual recognition power. Our extensive experimental results on the CIFAR-10 and ImageNet datasets demonstrate that the proposed progressive deep neural network is able to obtain more than 10 fold complexity scalability while achieving the state-of-the-art performance using a single network model satisfying different complexity-accuracy requirements.

研究の動機と目的

• 既存のディープニューラルネットワークが、視覚的複雑度にかかわらずすべての画像に同じ計算コストで処理するという固定された推論複雑度の問題に対処すること。
• 入力画像の難易度に応じて計算リソースをスケーリングするプログレッシブネットワーク構造を開発し、簡単な画像に対して効率を向上させること。
• 低複雑度の画像に対して推論を早期に終了するための信頼度に配慮した意思決定ポリシーを学習すること。
• 多様な計算予算において、1つの統合モデルで最先端の精度-複雑度トレードオフを達成すること。

提案手法

• 各ステージが段階的に深くなり、能力が向上するニューラルネットワークユニットからなるマルチステージアーキテクチャを採用し、順次活性化する。
• 各ステージは独立して分類意思決定を生成し、最終的な予測は、十分な信頼度が得られたり、すべてのステージが処理されたりした後に行われる。
• 信頼度分析と意思決定ポリシー（CADP）ネットワークは、再帰的モデルとして実装され、各ステージで信頼度を評価し、次のステージに進むか、早期終了するかを決定する。
• CADPネットワークは、精度と推論コストのトレードオフを最適化するために、強化学習または教師あり学習のアプローチを用いてエンドツーエンドで訓練される。
• フレームワークは、シリアルおよびパラレルなProgNetバージョンをサポートし、展開の柔軟性を高めるために、動的および固定コントローラーモードを備えている。
• 訓練は、CIFAR-10およびImageNetで標準的なデータオーグメンテーションと正規化を用い、異なるステージおよびコントローラー戦略における複雑度-精度曲線が評価される。

実験結果

リサーチクエスチョン

• RQ1 1つのディープニューラルネットワークモデルが、入力画像ごとに可変な計算複雑度を実現しながら、精度を維持または向上させることができるか？
• RQ2 学習された意思決定ポリシーは、視覚的複雑度に基づいて、各画像の最適な推論深さをどれほど効果的に予測できるか？
• RQ3 プログレッシブネットワーク構造は、MobileNet や DenseNet のような固定アーキテクチャモデルよりも、さまざまな複雑度レベルでどれほど優れているか？
• RQ4 信頼度分析の統合は、可変な計算予算下での画像分類の効率性と精度をどれほど向上させるか？

主な発見

• ProgNet-p4-dynamicは、ImageNetで1.87G MACC演算で73.9%のトップ-1精度を達成し、同じ複雑度レベルでMobileNet-v2（71.7%）を上回った。
• 同じ精度を達成する場合、ProgNet-p4-dynamicは推論時間をMobileNet-v2よりも20%短縮し、CPUで89.03ms、GPUで1.17msを達成した。
• CADPコントローラーは、複雑度-精度パフォーマンス曲線から、ランダムな終了戦略よりも顕著に優れていることが示された。
• ProgNetは、推論コストの全範囲にわたり10倍以上のスケーラビリティを示し、その間においても最先端のパフォーマンスを維持した。
• 6段階と動的制御を用いた場合、ProgNetは74.6%のトップ-1精度を達成し、より低い計算コストでResNet-18やDenseNet-121を上回った。