[論文レビュー] SkyNet: A Champion Model for DAC-SDC on Low Power Object Detection

Xiaofan Zhang, Cong Hao+10 more|arXiv (Cornell University)|Jun 25, 2019

Advanced Neural Network Applications参考文献 10被引用数 20

ひとこと要約

SkyNet は、12個の畳み込み層とたった1.82 MBのパラメータを備えた軽量でボトムアップ設計の深層ニューラルネットワークであり、低消費電力エッジ推論に最適化されている。ハードウェアに配慮した設計、特徴マップのバイパス、ReLU6、および最適化による順序入れ替えを統合することで、DAC-SDC 2019 チャレンジで GPU（0.731 IoU、67.33 FPS）および FPGA（0.716 IoU、25.05 FPS）の両プラットフォームで最先端の性能を達成し、優勝を果たした。

ABSTRACT

Developing artificial intelligence (AI) at the edge is always challenging, since edge devices have limited computation capability and memory resources but need to meet demanding requirements, such as real-time processing, high throughput performance, and high inference accuracy. To overcome these challenges, we propose SkyNet, an extremely lightweight DNN with 12 convolutional (Conv) layers and only 1.82 megabyte (MB) of parameters following a bottom-up DNN design approach. SkyNet is demonstrated in the 56th IEEE/ACM Design Automation Conference System Design Contest (DAC-SDC), a low power object detection challenge in images captured by unmanned aerial vehicles (UAVs). SkyNet won the first place award for both the GPU and FPGA tracks of the contest: we deliver 0.731 Intersection over Union (IoU) and 67.33 frames per second (FPS) on a TX2 GPU and deliver 0.716 IoU and 25.05 FPS on an Ultra96 FPGA.

研究の動機と目的

• リアルタイムオブジェクト検出におけるリソース制約のあるエッジデバイスで、高い推論精度と効率を達成する課題に対処すること。
• 事前に存在する大規模モデルの圧縮に依存するトップダウン DNN 設計手法の限界を克服すること。このような手法は、通常、精度とハードウェア効率のバランスをとるのが困難である。
• NVIDIA TX2 GPU や Ultra96 FPGA などの低消費電力埋め込みプラットフォームに特に適合した、軽量でハードウェアに配慮した DNN アーキテクチャの開発。
• ハードウェア制約を最初から考慮したボトムアップ設計アプローチが、従来の圧縮ベース手法に比べてエッジオブジェクト検出で優れた性能を発揮できることを示すこと。
• 精度（IoU）、スループット（FPS）、エネルギー効率のすべての観点から最適化することで、低消費電力オブジェクト検出の新しいベンチマークを設定すること。

提案手法

• 事前に存在するモデルを圧縮するのではなく、最小限のアーキテクチャ的要素から始めるボトムアップ DNN 設計アプローチを提案した。
• メモリと計算負荷を最小限に抑えるために、12個の畳み込み層とたった1.82 MBのパラメータを有する SkyNet を設計した。
• ハードウェアに配慮したコンponents を統合：深さを減らすために特徴マップのバイパス、メモリアクセスパターンを改善するためのレイヤー順序入れ替え、およびより良い量子化とエネルギー効率のための ReLU6 を使用。
• 評価のため、NVIDIA TX2 GPU（32ビット浮動小数点）および Xilinx Ultra96 FPGA（9ビット特徴マップ、11ビット重み）の両方のプラットフォームにモデルをデプロイした。
• IoU、エネルギー効率（平均消費エネルギー比の対数比による評価）、およびスループットを組み合わせたカスタムスコアリングシステムを用いて総合スコアを算出し、より低いエネルギー消費と高い精度を好むスコアを導出。
• ターゲット遅延およびリソース制約の下で、レイヤーのバンドルを評価しながらネットワークを段階的に拡大するための探索ベース最適化（例：SCD）を適用した。

実験結果

リサーチクエスチョン

• RQ1 エッジデバイスにおける低消費電力オブジェクト検出において、ボトムアップ DNN 設計アプローチがトップダウン圧縮戦略を上回ることができるか？
• RQ2 ReLU6、特徴マップのバイパス、レイヤー順序入れ替えといったアーキテクチャ的変更は、組み込み GPU や FPGA における精度と効率を顕著に向上させることができるか？
• RQ3 たった1.82 MBのパラメータを有する軽量 DNN が、ドローンが撮影した画像において、高い検出精度（IoU）とリアルタイムスループット（FPS）を達成できる範囲はどの程度か？
• RQ4 量子化やメモリアクセス最適化を含むハードウェアに配慮した設計は、エッジ AI システムにおけるエネルギー効率と推論速度にどのように影響を与えるか？
• RQ5 プラットフォーム固有の微調整なしに、1つのモデルアーキテクチャが GPU や FPGA といった多様なエッジプラットフォームでトップクラスの性能を達成できるか？

主な発見

• SkyNet は NVIDIA TX2 GPU で 0.731 の Intersection over Union（IoU）と 67.33 FPS を達成し、GPU トラックで優勝した。
• Xilinx Ultra96 FPGA では 0.716 IoU と 25.05 FPS を達成し、FPGA トラックでも優勝した。
• GPU では 13.50 W、FPGA では 7.26 W の消費電力に抑えられ、エネルギー効率の高いスコアが得られ、両トラックで最高の総合スコアを達成した。
• SkyNet の総合スコアは GPU で 1.504、FPGA で 1.526 であり、両カテゴリで他のすべてのエントリを上回った。
• ボトムアップ設計アプローチに加え、ReLU6、特徴マップのバイパス、およびレイヤー順序入れ替えを組み合わせることで、Tiny YOLO や MobileNet といったトップダウン圧縮モデルを、精度と効率の両面で上回った。
• SkyNet の成功は、大規模モデルの事後圧縮に比べ、ハードウェアに配慮したコンパクトな DNN 設計がエッジデバイスで優れた性能を発揮できることを示している。