[論文レビュー] ApproxDet: Content and Contention-Aware Approximate Object Detection for Mobiles

Ran Xu, Chen-lin Zhang+6 more|arXiv (Cornell University)|Oct 21, 2020

Advanced Neural Network Applications参考文献 66被引用数 7

ひとこと要約

ApproxDet は、モバイルデバイス向けのコンテンツおよびコンテント競合意識的な近似オブジェクト検出フレームワークであり、リアルタイムの動画コンテンツとシステムリソース状態に基づいて、マルチブランチ Faster R-CNN アーキテクチャから動的に推論パスを選択する。データドリブンなパフォーマンスモデリングと遅延-SLA駆動スケジューラーを組み合わせることで、YOLOv3 よりも 52% の遅延低減と 11.1% の高い精度を達成しながら、単一モデル設計による低スイッチングオーバーヘッドを維持する。

ABSTRACT

Advanced video analytic systems, including scene classification and object detection, have seen widespread success in various domains such as smart cities and autonomous transportation. With an ever-growing number of powerful client devices, there is incentive to move these heavy video analytics workloads from the cloud to mobile devices to achieve low latency and real-time processing and to preserve user privacy. However, most video analytic systems are heavyweight and are trained offline with some pre-defined latency or accuracy requirements. This makes them unable to adapt at runtime in the face of three types of dynamism -- the input video characteristics change, the amount of compute resources available on the node changes due to co-located applications, and the user's latency-accuracy requirements change. In this paper we introduce ApproxDet, an adaptive video object detection framework for mobile devices to meet accuracy-latency requirements in the face of changing content and resource contention scenarios. To achieve this, we introduce a multi-branch object detection kernel (layered on Faster R-CNN), which incorporates a data-driven modeling approach on the performance metrics, and a latency SLA-driven scheduler to pick the best execution branch at runtime. We couple this kernel with approximable video object tracking algorithms to create an end-to-end video object detection system. We evaluate ApproxDet on a large benchmark video dataset and compare quantitatively to AdaScale and YOLOv3. We find that ApproxDet is able to adapt to a wide variety of contention and content characteristics and outshines all baselines, e.g., it achieves 52% lower latency and 11.1% higher accuracy over YOLOv3.

研究の動機と目的

• モバイルデバイス上での動的実行時条件、特に変化する動画コンテンツと変動するシステムリソースの可用性に対応する動画オブジェクト検出の挑戦に取り組む。
• 入力コンテンツやシステム競合のリアルタイムな変化に適応できない静的である既存のオブジェクト検出器の限界を克服する。
• 多様なワークロード下で、精度と遅延の両方のランタイム適応を可能にする単一モデルシステムを設計する。
• 近似計算の原則をディープラーニング推論に統合し、モバイルビジョンワークロードにおいてプライバシーを保護するとともに遅延を低減する。
• エッジデバイス上でリアルタイムでプライバシーを守る動画分析を可能にするために、コンテンツ意識とシステム意識の共同最適化を実現する。

提案手法

• 入力コンテンツとシステム状態に基づいて、動的に推論パスを選択可能なマルチブランチ Faster R-CNN をベースにした検出カーネルを提案する。
• 異なるリソース競合レベル下での遅延と精度を予測するために、データドリブンなパフォーマンスモデリング手法を採用する。
• ユーザー定義の遅延制約を満たすために、実行時において最適な実行ブランチを選択する遅延-SLA駆動スケジューラーを導入する。
• 重複処理を低減するために、近似可能な動画オブジェクト追跡アルゴリズムを統合する。
• 複数の共存モデルではなく、単一の適応型 DNN モデルを用いることで、メモリ使用量とスイッチングオーバーヘッドを最小限に抑える。
• 実行時フィードバックを活用して、動画コンテンツのダイナミクスと同時に実行されるアプリケーションワークロードに基づいて、検出の複雑さを調整する。

実験結果

リサーチクエスチョン

• RQ1 モバイルデバイス上でのオブジェクト検出を、動画コンテンツの特徴の変化に適応可能にするにはどうすればよいか？
• RQ2 共存アプリケーションによるシステムレベルのリソース競合を、推論中にどのようにモデリング・緩和できるか？
• RQ3 単一モデルアーキテクチャが、マルチモデルまたはモデルオフロード手法に比べて遅延、精度、ランタイム適応性の面で優れていると期待できるか？
• RQ4 コンテンツと競合の両面に配慮したアプローチが、モバイル動画分析における精度と遅延のトレードオフをどの程度改善できるか？
• RQ5 実世界の動的条件下で、YOLOv3 や AdaScale といった最先端モデルと比較して、本手法はどのように性能を発揮するか？

主な発見

• ApproxDet は、ImageNet VID データセット上で YOLOv3 よりも平均推論遅延を 52% 減少させた。
• 同じ遅延制約下で、ApproxDet は YOLOv3 よりも 11.1% 高い平均平均精度（mAP）を達成した。
• 単一モデル設計のおかげでスイッチングオーバーヘッドが低く抑えられ、リアルタイムでのモデルロードやスワップの必要がなくなった。
• ApproxDet は多様なコンテンツおよび競合状況に適応でき、複数の実世界条件においても高い頑健性を示した。
• 遅延-SLA駆動スケジューラーは、精度と遅延のバランスを効果的に保ち、ユーザー定義のパフォーマンス要件を満たした。
• AdaScale と比較して、ApproxDet はコンテンツとシステム競合の両方を統合的にモデリングすることで、遅延と精度の両面で優れた性能を発揮した。