[論文レビュー] YOLO Nano: a Highly Compact You Only Look Once Convolutional Neural Network for Object Detection

Alexander Wong, Mahmoud Famuori+4 more|arXiv (Cornell University)|Oct 2, 2019

Advanced Neural Network Applications被引用数 4

ひとこと要約

YOLO Nano は、エッジおよびモバイルデプロイメントを想定した、非常にコン act で人間と機械の協働的設計に基づくオブジェクト検出ネットワークであり、VOC 2007 で 69.1% の mAP を達成している。モデルサイズはたったの 4.0MB、FLOPs は 4.57B にとどまり、Tiny YOLOv2 や Tiny YOLOv3 よりも精度を上回りながら、サイズと計算量をそれぞれ 8 倍以上、34% 以上削減している。

ABSTRACT

Object detection remains an active area of research in the field of computer vision, and considerable advances and successes has been achieved in this area through the design of deep convolutional neural networks for tackling object detection. Despite these successes, one of the biggest challenges to widespread deployment of such object detection networks on edge and mobile scenarios is the high computational and memory requirements. As such, there has been growing research interest in the design of efficient deep neural network architectures catered for edge and mobile usage. In this study, we introduce YOLO Nano, a highly compact deep convolutional neural network for the task of object detection. A human-machine collaborative design strategy is leveraged to create YOLO Nano, where principled network design prototyping, based on design principles from the YOLO family of single-shot object detection network architectures, is coupled with machine-driven design exploration to create a compact network with highly customized module-level macroarchitecture and microarchitecture designs tailored for the task of embedded object detection. The proposed YOLO Nano possesses a model size of ~4.0MB (>15.1x and >8.3x smaller than Tiny YOLOv2 and Tiny YOLOv3, respectively) and requires 4.57B operations for inference (>34% and ~17% lower than Tiny YOLOv2 and Tiny YOLOv3, respectively) while still achieving an mAP of ~69.1% on the VOC 2007 dataset (~12% and ~10.7% higher than Tiny YOLOv2 and Tiny YOLOv3, respectively). Experiments on inference speed and power efficiency on a Jetson AGX Xavier embedded module at different power budgets further demonstrate the efficacy of YOLO Nano for embedded scenarios.

研究の動機と目的

• メモリおよび電力制約のあるエッジおよびモバイルデバイスに、大規模で計算コストの高いオブジェクト検出ネットワークをデプロイする課題に対処すること。
• サイズと速度を犠牲にして精度を落とす既存のコンパクトモデル（例：Tiny YOLOv2 や Tiny YOLOv3）の限界を克服すること。
• 原理的プロトタイピングと機械駆動のアーキテクチャ探索を組み合わせた人間と機械の協働的設計戦略を用いて、極めて効率的でコンパクトなオブジェクト検出アーキテクチャを開発すること。
• モデルサイズ、推論速度、精度のバランスを、制限された電力予算のもとで最適化することで、実世界の埋め込みデプロイメントに適した設計を実現すること。
• 特に Jetson AGX Xavier における電力効率と推論速度を含め、埋め込みハードウェア上で優れたパフォーマンスを示すこと。

提案手法

• 2段階の人的・機械的協働設計戦略を採用する：(1) YOLO ファミリーの設計原則に基づく原理的ネットワーク設計プロトタイピング、(2) 生成的合成を用いた機械駆動の設計探索。
• マクロおよびマイクロアーキテクチャレベルでの細分化されたアーキテクチャカスタマイズを可能にする独自の探索空間を活用し、ユニークなモジュール構成とレイヤー固有の設計を可能にする。
• 機械駆動の探索を通じて、ネットワーク内に軽量な全結合注意（FCA）モジュールを戦略的に統合し、顕著な計算コスト増加なしに動的特徴再スケーリングを実現する。
• 微分可能アーキテクチャ探索（DARTS）を模倣したアプローチを用い、PEPモジュール、EPモジュール、FCA、および標準の 1×1 および 3×3 畳み込みを含む多様なアーキテクチャ構成を探索する。
• Jetson AGX Xavier での電力感知評価を通じて、モデルサイズ、FLOPs、推論速度を共同で最適化し、エッジデプロイメントに最適化する。
• FCA を用いたチャネル単位の特徴再スケーリングを適用する。FCA は2つの全結合層を用いてチャネル間の動的依存関係を学習し、特徴を再重み付けすることで表現力を向上させる。

実験結果

リサーチクエスチョン

• RQ1 人的・機械的協働設計戦略は、既存の最先端の小さなモデルよりも、よりコンパクトで正確なオブジェクト検出ネットワークを生み出せるか？
• RQ2 マクロおよびマイクロレベルでのアーキテクチャの多様性は、モデルの表現力、計算コスト、サイズのバランスをどの程度改善できるか？
• RQ3 軽量な注意メカニズム（例：FCA）の統合は、超コンパクトネットワークにおけるパフォーマンスと効率性にどのような影響を与えるか？
• RQ4 制限された電力予算のもとで、エッジハードウェア上において、極めてコンパクトなネットワークが Tiny YOLOv2 や Tiny YOLOv3 よりも優れた正確性と効率性を達成できるか？
• RQ5 Jetson AGX Xavier などの埋め込みプラットフォーム上での、提案されたネットワークの実際の推論速度と電力効率はどの程度か？

主な発見

• YOLO Nano はモデルサイズが 4.0MB にとどまり、Tiny YOLOv2（60.5MB）の 15 倍以上、Tiny YOLOv3（33.4MB）の 8 倍以上も小さい。
• 推論に必要な FLOPs はたったの 4.57B であり、Tiny YOLOv2（6.97B FLOPs）に比べ 34% 減少、Tiny YOLOv3（5.52B FLOPs）に比べ 17% 減少している。
• VOC 2007 テストセットにおいて YOLO Nano は 69.1% の mAP を達成しており、Tiny YOLOv2（57.1%）より 12% 高く、Tiny YOLOv3（58.4%）より 10.7% 高い。
• Jetson AGX Xavier では、15W で 26.9 FPS、30W で 48.2 FPS の推論速度を達成し、それぞれ 1.97 および 1.61 画像/秒/ワットの電力効率を示した。
• 機械駆動の設計プロセスにより、モジュールごとに独自のマクロおよびマイクロアーキテクチャを有する、極めて多様性のあるアーキテクチャが成功裏に生成された。
• 自動探索を通じて戦略的に統合された軽量な全結合注意（FCA）モジュールは、特徴再スケーリングを向上させ、計算コストを増加させることなく精度の向上に寄与した。