[论文解读] Federated Learning for Water Consumption Forecasting in Smart Cities

Mohammed El Hanjri, Hibatallah Kabbaj+2 more|arXiv (Cornell University)|Jan 30, 2023

Smart Parking Systems Research被引用 4

一句话总结

本文提出了一种基于联邦学习（FL）的方法，用于智慧城市中的短期用水量预测，通过在边缘设备（例如智能水表）上本地训练长短期记忆（LSTM）模型，以保护用户隐私并减少网络负载。该方法在最小化数据传输的同时，通过去中心化训练和模型聚合，保护了敏感的用水模式，且预测精度高于集中式模型。

ABSTRACT

Water consumption remains a major concern among the world's future challenges. For applications like load monitoring and demand response, deep learning models are trained using enormous volumes of consumption data in smart cities. On the one hand, the information used is private. For instance, the precise information gathered by a smart meter that is a part of the system's IoT architecture at a consumer's residence may give details about the appliances and, consequently, the consumer's behavior at home. On the other hand, enormous data volumes with sufficient variation are needed for the deep learning models to be trained properly. This paper introduces a novel model for water consumption prediction in smart cities while preserving privacy regarding monthly consumption. The proposed approach leverages federated learning (FL) as a machine learning paradigm designed to train a machine learning model in a distributed manner while avoiding sharing the users data with a central training facility. In addition, this approach is promising to reduce the overhead utilization through decreasing the frequency of data transmission between the users and the central entity. Extensive simulation illustrate that the proposed approach shows an enhancement in predicting water consumption for different households.

研究动机与目标

• 通过避免集中收集个人家庭用水数据，解决智慧城市用水量预测中的隐私问题。
• 通过本地化、个性化的深度学习模型，提升对单个家庭的预测精度。
• 通过基于边缘的联邦学习减少数据传输，降低网络开销。
• 在精度和通信效率方面，评估联邦学习与集中式训练的性能对比。
• 展示在实际场景中，基于边缘设备的联邦学习在实时、隐私保护的用水需求预测中的可行性。

提出的方法

• 系统采用联邦学习框架，通过多个边缘设备（例如智能水表）在不共享原始用水数据的情况下联合训练全局LSTM模型。
• 每个客户端（家庭）在其自身每月的用水量数据上，使用个性化本地更新对全局模型进行本地训练。
• 将模型权重传输至中央服务器，通过加权平均更新全局模型，从而实现通过数据去中心化保护隐私。
• 该过程在多轮迭代中持续进行，直至收敛，全局模型通过多样化、本地化的数据逐步优化。
• 该方法利用边缘计算基础设施（例如家庭电网边缘技术）实现设备端训练，降低延迟。
• 通过集中式（$Q_C$）和联邦式（$Q_F$）训练的方程量化网络负载，采用奖励指标 $R = 1 - Q_F/Q_C$ 衡量通信效率的提升。

Figure 1: Network architecture and components

实验结果

研究问题

• RQ1 与集中式深度学习模型相比，联邦学习是否能提升短期用水量预测的准确性？
• RQ2 本地模型个性化在多大程度上提升了单个家庭的预测性能？
• RQ3 与集中式训练相比，联邦学习在智慧水务系统中如何降低网络负载？
• RQ4 去中心化训练对住宅用水量预测中的数据隐私有何影响？
• RQ5 基于边缘的联邦学习是否可在智慧城市中实际部署，以实现实时、可扩展的用水需求预测？

主要发现

• 所提出的联邦学习方法在个性化预测（特别是单个家庭）方面，预测精度高于集中式全局模型。
• 在客户端特定数据上的本地再训练显著提升了预测性能，如 BLD 04（2018–2020）中预测值与实际用水量的对齐程度明显提高。
• 网络负载减少奖励 $R$ 为正值，表明与集中式训练相比，联邦学习在数据传输方面实现了可测量的减少。
• 模型更新具有临时性，从不在服务器上持久存储，从而最小化隐私风险并防止用户身份的逆向推导。
• 即使对于数据量有限的新用户，全局模型仍能提供可行的基线预测，展现出良好的鲁棒性和可扩展性。
• 边缘计算的集成实现了设备端训练，使该系统在智慧城市水务基础设施的实际物联网设备中具备可部署性。

Figure 2: The distribution of water consumption data in building 04 (BLD 04). (HCF; Hundred-Cubic Foot)