[论文解读] Reliable Fleet Analytics for Edge IoT Solutions

Emmanuel Raj, Magnus Westerlund+1 more|arXiv (Cornell University)|Jan 12, 2021

IoT and Edge/Fog Computing参考文献 12被引用 5

一句话总结

本文提出了一种可扩展、可靠的边缘MLOps框架，用于AIoT系统中的车队分析，支持在边缘设备上持续部署、监控和重训练机器学习模型。该框架确保了端到端的可追溯性与实时性能监控，通过在三台边缘设备上成功实现多变量空气质量预测得到验证，部署和重训练过程中无任何故障。

ABSTRACT

In recent years we have witnessed a boom in Internet of Things (IoT) device deployments, which has resulted in big data and demand for low-latency communication. This shift in the demand for infrastructure is also enabling real-time decision making using artificial intelligence for IoT applications. Artificial Intelligence of Things (AIoT) is the combination of Artificial Intelligence (AI) technologies and the IoT infrastructure to provide robust and efficient operations and decision making. Edge computing is emerging to enable AIoT applications. Edge computing enables generating insights and making decisions at or near the data source, reducing the amount of data sent to the cloud or a central repository. In this paper, we propose a framework for facilitating machine learning at the edge for AIoT applications, to enable continuous delivery, deployment, and monitoring of machine learning models at the edge (Edge MLOps). The contribution is an architecture that includes services, tools, and methods for delivering fleet analytics at scale. We present a preliminary validation of the framework by performing experiments with IoT devices on a university campus's rooms. For the machine learning experiments, we forecast multivariate time series for predicting air quality in the respective rooms by using the models deployed in respective edge devices. By these experiments, we validate the proposed fleet analytics framework for efficiency and robustness.

研究动机与目标

• 解决在实时AIoT应用中，跨分布式物联网边缘设备规模化与维护机器学习模型所面临的挑战。
• 通过统一、可审计的框架，实现在边缘端持续交付、部署与监控机器学习模型。
• 通过集成模型漂移检测与自动化重训练，确保边缘分析的可靠性、可追溯性与合规性。
• 通过在大学校园边缘设备上对室内空气质量进行真实世界多变量时间序列预测，验证框架的鲁棒性。
• 通过去中心化、原生边缘分析，支持可持续、低延迟、隐私保护的AIoT运营。

提出的方法

• 设计一种模块化架构，集成服务、工具与方法，实现边缘AIoT部署中端到端的车队分析。
• 采用持续部署流水线，基于性能阈值自动执行模型训练、边缘部署与重训练。
• 使用统计监督方法，设定RMSE阈值（10）以触发生产环境中模型替换与重训练。
• 在三台边缘设备（Google TPU edge、Jetson Nano 2、Raspberry Pi 4）上部署四种不同机器学习模型：线性回归（MLR）、随机森林回归器（RFR）、支持向量回归（SVR）与极限学习机（ELM）。
• 通过传感器数据（加速度计、陀螺仪、湿度、磁力计、气压、温度）实现基于遥测的设备健康监控，确保系统整体可靠性。
• 确保所有模型（包括训练、部署与推理）的端到端可追溯性与可审计性，以支持可复现性与合规性。

实验结果

研究问题

• RQ1 如何在实时环境中，可靠且持续地在异构边缘设备车队中部署、监控与重训练机器学习模型？
• RQ2 为确保边缘AIoT分析中的可追溯性、可审计性与合规性，需要哪些架构与操作组件？
• RQ3 统一的车队分析框架能否在计算能力各异的多样化边缘硬件上维持模型性能与系统稳定性？
• RQ4 基于性能阈值的自动化重训练在真实边缘部署中，能在多大程度上提升模型准确率与系统响应速度？
• RQ5 该框架在真实环境中支持低延迟、隐私保护与可扩展AIoT应用的效能如何？

主要发现

• 所提出的边缘MLOps框架成功实现了在三台不同边缘设备上对四种机器学习模型的持续部署与监控，实验期间无任何故障。
• 所有模型均实现端到端可追溯与可审计，完整记录支持可复现性与数据保护法规合规。
• 系统在整个实验期间保持稳定性能，无设备故障，亦无数据采集或分析中断。
• 通过设定RMSE阈值为10来监控模型性能；当超过该阈值时，成功触发自动化重训练与模型替换。
• 该框架在真实世界多变量时间序列预测中表现出色，实现了室内空气质量的稳定推理与训练性能，适用于多样化边缘硬件。
• 验证结果确认了该框架在大规模边缘AIoT部署中的可扩展性与可靠性，尤其适用于隐私敏感与低延迟环境。