[論文レビュー] EdgeVision: Towards Collaborative Video Analytics on Distributed Edges for Performance Maximization

Guanyu Gao, Yuqi Dong+2 more|arXiv (Cornell University)|Nov 6, 2022

Advanced Neural Network Applications被引用数 4

ひとこと要約

EdgeVisionは、エッジノードの分散環境において協調的ビデオ分析を可能にするマルチエージェント強化学習（MARL）フレームワークを提案する。エッジノードは、エンド・ツー・エンド遅延を最小限に抑え、システム性能を最大化するために協調的に動く。アテンションを組み込んだアクタ・クリティックMARLアルゴリズムを用いることで、エッジノードは同時にビデオ前処理、モデル選択、リクエストディスパッチを最適化し、実世界の実験で最先端のベースラインと比較して全体の報酬が33.6%〜86.4%高い結果を得た。

ABSTRACT

Deep Neural Network (DNN)-based video analytics significantly improves recognition accuracy in computer vision applications. Deploying DNN models at edge nodes, closer to end users, reduces inference delay and minimizes bandwidth costs. However, these resource-constrained edge nodes may experience substantial delays under heavy workloads, leading to imbalanced workload distribution. While previous efforts focused on optimizing hierarchical device-edge-cloud architectures or centralized clusters for video analytics, we propose addressing these challenges through collaborative distributed and autonomous edge nodes. Despite the intricate control involved, we introduce EdgeVision, a Multiagent Reinforcement Learning (MARL)- based framework for collaborative video analytics on distributed edges. EdgeVision enables edge nodes to autonomously learn policies for video preprocessing, model selection, and request dispatching. Our approach utilizes an actor-critic-based MARL algorithm enhanced with an attention mechanism to learn optimal policies. To validate EdgeVision, we construct a multi-edge testbed and conduct experiments with real-world datasets. Results demonstrate a performance enhancement of 33.6% to 86.4% compared to baseline methods.

研究の動機と目的

• ビデオ分析ワークロードにおける個々のエッジノードの処理能力に制限があることによる性能ボトルネックを解消すること。
• 複数の地理的に分散したエッジノード間での動的協調を可能にし、ワークロードをバランスさせ、リソース利用効率を向上させること。
• エッジノード全体にわたって、ビデオ前処理、モデル選択、リクエストディスpatchを統合最適化し、全体のシステムコストを最小化すること。
• 自律的なエッジノードが協調的に最適な方策を学習できるように、分散型でスケーラブルな意思決定メカニズムを設計すること。
• アテンション機構とエージェント間状態共有が、エッジビデオ分析におけるMARL性能に与える影響を評価すること。

提案手法

• 各エッジノードは、ローカル状態を観測し、他のノードと協調する自律的エージェントとしてモデル化される。
• 全エージェントの状態情報を統合する中央集権的クリティックを備えたアクタ・クリティックMARLアルゴリズムが設計される。
• 他のエージェントからの情報の重要度を動的に重みづけるために、クリティックネットワークにアテンション機構が統合される。これにより意思決定の正確性が向上する。
• システムは3つの制御行動を同時に最適化する：ビデオフレーム解像度、DNNモデル選択、インフェレンスリクエストのエッジノードへのルーティング。
• 報酬関数は、インフェレンス精度、エンド・ツー・エンド遅延、およびビデオフレームドロップ率をバランスさせ、トレードオフ制御のための設定可能なペナルティ重みを備える。
• 実世界のマルチエッジノードテストベッドを、実データセットを用いて実装し、現実のネットワークおよびワークロード条件下での評価が行われる。

Figure 1: The system architecture of video analytics with the collaboration of the edge nodes.

実験結果

リサーチクエスチョン

• RQ1 複数のエッジノードがどのように協調的にビデオ分析パイプラインを最適化し、エンド・ツー・エンド遅延を低減し、システム性能を向上させることができるか？
• RQ2 エージェント間状態共有とアテンション機構が、分散型ビデオ分析におけるMARL性能に与える影響は何か？
• RQ3 提案されたMARLベースのアプローチは、集中型またはヒューリスティックベースのリクエストディスパッチおよびモデル選択戦略と比較して、どのように異なるか？
• RQ4 ハイ・ワークロード下で、協調的エッジ処理はどの程度、ビデオフレームドロップ率を低減できるか？
• RQ5 報酬関数のペナルティ重みによって制御される精度、遅延、リソースコストの間のトレードオフが変化する条件下で、システムはどのように動作するか？

主な発見

• EdgeVisionは、さまざまなペナルティ重み設定において、最も競争力のあるベースライン手法と比較して、全体の報酬を33.6%〜86.4%向上させた。
• アブレーションスタディの結果、他エージェントの状態情報を排除した場合（W/O Other’s State）の性能劣化が最も顕著であり、効果的な協調のためにはその情報が必要であることが示された。
• アテンション機構を有するバージョンは、非アテンション型バージョンと比較して、報酬を13.2%〜30.0%向上させた。これは、他のエージェントからの関連情報をフィルタリングする役割を果たしていることを示している。
• EdgeVisionは、全体の遅延が最も低く（ベースライン比15.2%〜32.1%改善）、ビデオフレームドロップ率も最低（ベースライン比18.7%〜45.3%低減）であり、優れたスケジューリング効率を示している。
• 高いペナルティ重み（ω=15）の条件下でも、精度と遅延のバランスを最も良く維持しており、高精度モデルを優先する手法でさえも上回った。
• ペナルティ重みが低い場合（ω=0.2）には、インフェレンス精度が最も高くなり、最適化目的に応じた適応性の高さが示された。

Figure 2: The actor-critic framework of our method.