[论文解读] EdgeVision: Towards Collaborative Video Analytics on Distributed Edges for Performance Maximization

Guanyu Gao, Yuqi Dong+2 more|arXiv (Cornell University)|Nov 6, 2022

Advanced Neural Network Applications被引用 4

一句话总结

EdgeVision 提出了一种多智能体深度强化学习（MARL）框架，使分布式边缘节点能够协同进行视频分析，以最小化端到端延迟并最大化系统性能。通过使用注意力增强的演员-critic MARL 算法，边缘节点联合优化视频预处理、模型选择和请求调度，在真实实验中相比最先进基线方法，整体奖励提高了 33.6%–86.4%。

ABSTRACT

Deep Neural Network (DNN)-based video analytics significantly improves recognition accuracy in computer vision applications. Deploying DNN models at edge nodes, closer to end users, reduces inference delay and minimizes bandwidth costs. However, these resource-constrained edge nodes may experience substantial delays under heavy workloads, leading to imbalanced workload distribution. While previous efforts focused on optimizing hierarchical device-edge-cloud architectures or centralized clusters for video analytics, we propose addressing these challenges through collaborative distributed and autonomous edge nodes. Despite the intricate control involved, we introduce EdgeVision, a Multiagent Reinforcement Learning (MARL)- based framework for collaborative video analytics on distributed edges. EdgeVision enables edge nodes to autonomously learn policies for video preprocessing, model selection, and request dispatching. Our approach utilizes an actor-critic-based MARL algorithm enhanced with an attention mechanism to learn optimal policies. To validate EdgeVision, we construct a multi-edge testbed and conduct experiments with real-world datasets. Results demonstrate a performance enhancement of 33.6% to 86.4% compared to baseline methods.

研究动机与目标

• 解决单个边缘节点处理能力有限导致的性能瓶颈问题。
• 实现多个地理位置分散的边缘节点之间的动态协作，以平衡工作负载并提高资源利用率。
• 联合优化边缘节点之间的视频预处理、模型选择和请求调度，以最小化整体系统成本。
• 设计一种去中心化、可扩展的决策机制，使自主边缘节点能够协同学习最优策略。
• 评估注意力机制和智能体间状态共享在提升边缘视频分析中 MARL 性能方面的影响。

提出的方法

• 每个边缘节点被建模为一个自主智能体，通过多智能体强化学习（MARL）框架观察其本地状态并与其他节点协作。
• 设计了一种带集中式评论家的演员-critic MARL 算法，利用所有智能体的状态信息以改善策略学习。
• 在评论家网络中集成注意力机制，以动态加权其他智能体信息的重要性，提升决策准确性。
• 系统联合优化三项控制动作：视频帧分辨率、深度神经网络（DNN）模型选择以及推理请求到边缘节点的路由。
• 奖励函数平衡推理准确性、端到端延迟和视频帧丢弃率，并通过可配置的惩罚权重实现权衡控制。
• 在真实世界中部署了多边缘节点测试平台，使用真实数据集在真实网络和工作负载条件下评估该方法。

Figure 1: The system architecture of video analytics with the collaboration of the edge nodes.

实验结果

研究问题

• RQ1 如何使多个边缘节点协同优化视频分析流水线，以减少端到端延迟并提升系统性能？
• RQ2 智能体间状态共享和注意力机制对分布式视频分析中 MARL 性能的影响是什么？
• RQ3 所提出的基于 MARL 的方法与集中式或启发式请求调度和模型选择策略相比表现如何？
• RQ4 在高负载下，协同边缘处理能在多大程度上降低视频帧丢弃率？
• RQ5 当奖励函数中的惩罚权重控制准确性、延迟和资源成本之间的权衡时，系统性能如何变化？

主要发现

• 在不同惩罚权重设置下，EdgeVision 相较于最先进基线方法，整体系统奖励提高了 33.6% 至 86.4%。
• 消融研究显示，移除其他智能体状态信息（W/O Other’s State）导致性能下降最明显，证明其对有效协作的必要性。
• 与非注意力变体相比，注意力机制使奖励提升 13.2% 至 30.0%，证明其在过滤其他智能体相关信 息方面的作用。
• EdgeVision 实现了最低的整体延迟（比基线方法好 15.2%–32.1%）和最低的视频帧丢弃率（低 18.7%–45.3%），表明其调度效率更优。
• 在高惩罚权重（ω=15）下，EdgeVision 保持了准确性与延迟的最佳平衡，甚至优于那些优先选择高精度模型的方法。
• 当惩罚权重较低（ω=0.2）时，该方法实现了最高的推理准确性，表明其能适应不同的优化目标。

Figure 2: The actor-critic framework of our method.