[论文解读] Federated Learning for Internet of Things: A Federated Learning Framework for On-device Anomaly Data Detection

Tuo Zhang, Chaoyang He+4 more|arXiv (Cornell University)|Jun 15, 2021

Privacy-Preserving Technologies in Data参考文献 44被引用 12

一句话总结

本文提出 FedIoT，一种用于物联网系统中设备端异常检测的联邦学习框架，通过自适应优化和动态学习率调度提升检测准确率，同时保护隐私。在真实 Raspberry Pi 设备上评估，FedIot 在低通信和内存开销下实现高性能异常检测，证明其在资源受限的物联网部署中的可行性。

ABSTRACT

Federated learning can be a promising solution for enabling IoT cybersecurity (i.e., anomaly detection in the IoT environment) while preserving data privacy and mitigating the high communication/storage overhead (e.g., high-frequency data from time-series sensors) of centralized over-the-cloud approaches. In this paper, to further push forward this direction with a comprehensive study in both algorithm and system design, we build FedIoT platform that contains FedDetect algorithm for on-device anomaly data detection and a system design for realistic evaluation of federated learning on IoT devices. Furthermore, the proposed FedDetect learning framework improves the performance by utilizing a local adaptive optimizer (e.g., Adam) and a cross-round learning rate scheduler. In a network of realistic IoT devices (Raspberry PI), we evaluate FedIoT platform and FedDetect algorithm in both model and system performance. Our results demonstrate the efficacy of federated learning in detecting a wider range of attack types occurred at multiple devices. The system efficiency analysis indicates that both end-to-end training time and memory cost are affordable and promising for resource-constrained IoT devices. The source code is publicly available at https://github.com/FedML-AI/FedIoT.

研究动机与目标

• 解决基于中心化云平台的物联网异常检测的局限性，包括高通信与存储开销及隐私风险。
• 开发一个实用、开源且模块化的联邦学习平台，用于物联网网络安全研究。
• 通过利用协作学习、自适应优化和学习率调度，提升资源受限设备上的异常检测性能。
• 对真实物联网硬件上的联邦学习进行全面的系统级评估，包括训练时间、内存使用和通信成本。
• 通过合成覆盖整个物联网网络中多种攻击类型的综合性测试集，实现对基于联邦学习的异常检测的现实评估。

提出的方法

• 设计 FedIoT 平台，包含三个模块化层级：应用层（支持联邦训练的一行式 API）、算法层（支持 FedDetect 及 FedAvg 等基线算法）、基础设施层（使用 MQTT 实现轻量级物联网通信，使用 PyTorch 实现设备端训练）。
• 实现 FedDetect，一种新型联邦学习算法，采用本地自适应优化器（如 Adam）和跨轮次学习率调度器，以提升模型收敛性和检测准确率。
• 从公开的 N-BaIoT 数据中合成一个真实、全面的测试数据集，用于评估全局模型在物联网网络中所有攻击类型下的性能。
• 同时支持在 Raspberry Pi 上的边缘训练和在 CPU/GPU 上的分布式训练，通过双通信后端实现：MQTT 用于物联网设备，MPI 用于高性能系统。
• 在 Raspberry Pi 上进行端到端的系统性能分析，测量每轮训练时间、内存消耗以及在真实 4G/5G 带宽（7.65 MB/s）下的通信开销。
• 使用深度自编码器作为异常检测模型，通过联邦平均算法进行全局训练，结合各设备上的模型聚合与本地更新。

实验结果

研究问题

• RQ1 联邦学习能否在不集中原始设备数据的前提下，有效检测广泛的物联网攻击类型？
• RQ2 所提出的 FedDetect 算法结合自适应优化与动态学习率调度，在检测性能上相比标准 FedAvg 有何提升？
• RQ3 在真实、资源受限的物联网设备（如 Raspberry Pi）上部署联邦学习的实际系统级成本（训练时间、内存、通信）是多少？
• RQ4 边缘设备上联邦学习的性能在准确率和鲁棒性方面，与集中式 GPU/CPU 训练相比，能达到何种程度的匹配？
• RQ5 在带宽受限的真实物联网环境中，通信成本如何影响端到端的训练时间？

主要发现

• FedIoT 在 Raspberry Pi 上实现了 97.47% 的测试准确率，与 CPU/GPU 模拟中的 98.27% 准确率非常接近，证实了边缘训练的可行性。
• Raspberry Pi 上的端到端训练时间不足 1 小时（2547 秒），其中通信占总时间的 42.2%，凸显了通信压缩的必要性。
• 每轮训练的内存占用仅占 Raspberry Pi 总内存容量的一小部分（低于 4G），表明内存开销极低。
• 每轮训练时间少于 1 分钟，证明其具备实际部署的实时可行性。
• FedDetect 在检测性能上优于 CL-Single 和 FedAvg，尤其在 FPR 和 TNR 方面表现更优，得益于通过协作训练获得的更好特征学习能力。
• 系统效率分析确认，计算与通信成本均在资源受限的物联网边缘设备上可接受，适合实际部署。