[論文レビュー] BlockQNN: Efficient Block-wise Neural Network Architecture Generation

Zhao Zhong, Zichen Yang+5 more|arXiv (Cornell University)|Aug 16, 2018

Advanced Neural Network Applications参考文献 52被引用数 18

ひとこと要約

BlockQNNは、エpsilon-greedy探索を用いたQ学習に基づく強化学習フレームワークを提案し、ブロック単位での効率的で高効率なニューラルネットワークアーキテクチャ生成を実現する。CIFAR-10では2.35%のtop-1誤差率を達成し、SOTA性能を発揮する。また、ImageNetに対しても効果的に一般化され、82.0%のtop-1精度を達成する。さらに、探索空間の縮小と、分散学習および早期停止による限られたハードウェア上での高速トレーニングを実現する。

ABSTRACT

Convolutional neural networks have gained a remarkable success in computer vision. However, most usable network architectures are hand-crafted and usually require expertise and elaborate design. In this paper, we provide a block-wise network generation pipeline called BlockQNN which automatically builds high-performance networks using the Q-Learning paradigm with epsilon-greedy exploration strategy. The optimal network block is constructed by the learning agent which is trained to choose component layers sequentially. We stack the block to construct the whole auto-generated network. To accelerate the generation process, we also propose a distributed asynchronous framework and an early stop strategy. The block-wise generation brings unique advantages: (1) it yields state-of-the-art results in comparison to the hand-crafted networks on image classification, particularly, the best network generated by BlockQNN achieves 2.35% top-1 error rate on CIFAR-10. (2) it offers tremendous reduction of the search space in designing networks, spending only 3 days with 32 GPUs. A faster version can yield a comparable result with only 1 GPU in 20 hours. (3) it has strong generalizability in that the network built on CIFAR also performs well on the larger-scale dataset. The best network achieves very competitive accuracy of 82.0% top-1 and 96.0% top-5 on ImageNet.

研究の動機と目的

• 手作業によるニューラルネットワーク設計の高コストと複雑さに対処し、アーキテクチャ生成を自動化すること。
• 層ごとの設計ではなくブロック単位の設計に焦点を当てることで、最適なネットワーク構造の探索空間を縮小すること。
• 限られたハードウェア上で強化学習を用いて、効率的で高速かつ一般化可能なニューラルアーキテクチャ探索を可能にすること。
• CIFARやImageNetのような異なるデータセット間で、自動生成されたネットワークの性能と移行性を向上させること。
• スケーラブルで分散可能なフレームワークを構築し、アーキテクチャ探索の高速化を図るとともに、高い精度を維持すること。

提案手法

• フレームワークは、経験再生とエpsilon-greedy探索を用いたQ学習エージェントを採用し、1つのネットワークブロック用に最適なコンponent層を段階的に選択する。
• ブロックは独立して生成され、その後スタックされて完全なニューラルネットワークを構成する。これにより、全体の探索空間が削減される。
• 複数のGPUを用いた非同期分散トレーニングフレームワークにより、Q学習プロセスの高速化が実現される。
• 高パフォーマンスなブロックを早期に特定できるように、早期停止戦略が導入され、最終的な精度を損なわずにトレーニング効率が向上する。
• 独自の報酬関数により、収束したモデルと強い相関を持つ早期停止モデルが保証され、収束が速やかに達成される。
• 本手法は、CIFAR-10、CIFAR-100、ImageNetにおける画像分類タスクに適用され、人物キーポイント検出における転移学習の有効性が検証された。

実験結果

リサーチクエスチョン

• RQ1 強化学習を用いたブロック単位のニューラルアーキテクチャ探索は、画像分類ベンチマークでSOTA性能を達成できるか？
• RQ2 提案されたBlockQNNフレームワークは、層ごとの探索手法と比較して、どのように探索空間と計算コストを削減するか？
• RQ3 CIFARのような小規模データセットで生成されたブロックが、ImageNetのような大規模データセットにどの程度一般化できるか？
• RQ4 完全なトレーニングを実施せずに、早期停止戦略が高パフォーマンスなブロックを効果的に特定できるか？ これにより探索プロセスが加速されるか？
• RQ5 分散非同期Q学習フレームワークは、限られたハードウェア上でも効率的なトレーニングを可能にし、性能を維持できるか？

主な発見

• BlockQNNが生成した最良のネットワークは、CIFAR-10で2.35%のtop-1誤差率を達成し、既存の手作業によるネットワークを上回る性能を示した。
• CIFAR-100では、強化学習の実行フェーズでランダムサーチを1%以上上回り、優れた学習効率を示した。
• 最良のBlockQNNモデルは、ImageNetで82.0%のtop-1精度と96.0%のtop-5精度を達成し、優れた移行性と手作業設計モデルと比較して競争力があることを示した。
• 1GPUのみを用いた高速版BlockQNNは20時間で完了し、32GPUを3日間使用したフルバージョンと同等の結果を達成した。
• フレームワークは転移学習の成功を実現した：自動生成されたキーポイント検出モデルはCOCOで70.5 APを達成し、SOTAのアワークラスネットワークの70.1 APを上回った。
• 実験的結果から、順次的なブロック接続構造が最適でないことが示され、代替的な接続パターンが性能向上に寄与する可能性がある。