[论文解读] Secure Federated Learning for Residential Short Term Load Forecasting

Joaquín Delgado Fernández, Sergio Potenciano Menci+2 more|arXiv (Cornell University)|Nov 17, 2021

Smart Grid Energy Management参考文献 68被引用 4

一句话总结

本文提出了一种用于住宅短期负荷预测的安全联邦学习框架，通过差分隐私和安全聚合保护数据隐私。在对预测精度影响极小的情况下，实现了近乎完美的隐私预算（1.39, 10⁻⁵）和（2.01, 10⁻⁵），实现了无需共享原始智能电表数据的去中心化协作学习。

ABSTRACT

The inclusion of intermittent and renewable energy sources has increased the importance of demand forecasting in power systems. Smart meters can play a critical role in demand forecasting due to the measurement granularity they provide. Consumers' privacy concerns, reluctance of utilities and vendors to share data with competitors or third parties, and regulatory constraints are some constraints smart meter forecasting faces. This paper examines a collaborative machine learning method for short-term demand forecasting using smart meter data as a solution to the previous constraints. Privacy preserving techniques and federated learning enable to ensure consumers' confidentiality concerning both, their data, the models generated using it (Differential Privacy), and the communication mean (Secure Aggregation). The methods evaluated take into account several scenarios that explore how traditional centralized approaches could be projected in the direction of a decentralized, collaborative and private system. The results obtained over the evaluations provided almost perfect privacy budgets (1.39,$10e^{-5}$) and (2.01,$10e^{-5}$) with a negligible performance compromise.

研究动机与目标

• 解决住宅智能电表数据共享在电力系统预测中的隐私问题。
• 克服公用事业公司和供应商之间数据共享的监管与商业障碍。
• 开发一种去中心化、协作式的机器学习方法，以保持数据机密性。
• 通过差分隐私和安全聚合确保模型隐私。
• 在真实场景中评估隐私保障与预测性能之间的权衡。

提出的方法

• 采用联邦学习在住宅智能电表数据上本地训练负荷预测模型，避免集中化存储原始数据。
• 对模型更新应用差分隐私以保护个体数据隐私，通过仔细调节的噪声注入实现。
• 使用安全聚合对来自多个客户端的模型更新进行密码学聚合，防止暴露单个贡献者的数据。
• 设计一种去中心化训练流程，客户端本地训练，仅将加密的模型更新发送给中央参数服务器。
• 在多种真实场景下评估系统，以分析隐私-精度权衡。
• 利用理论边界校准隐私预算（ε），在确保强隐私保障的同时保持模型效用。

实验结果

研究问题

• RQ1 如何在不共享原始智能电表数据的情况下，实现去中心化的住宅短期负荷预测？
• RQ2 差分隐私和安全聚合在多大程度上能保护个体隐私，同时保持预测精度？
• RQ3 在住宅负荷预测的联邦学习设置中，可实现的隐私预算（ε）是多少？
• RQ4 在同等隐私约束下，联邦模型的性能与集中式基线相比如何？
• RQ5 在现实世界的住宅负荷预测场景中，隐私保障与预测精度之间的权衡是什么？

主要发现

• 所提出的联邦学习框架实现了1.39的隐私预算，隐私损失为10⁻⁵，表明具有强大的隐私保护能力。
• 第二种场景实现了2.01的隐私预算，同样保持10⁻⁵的隐私损失，证明了在不同配置下的鲁棒性。
• 隐私保护机制导致的性能退化可忽略不计，与非私有的集中式模型相比几乎无损失。
• 安全聚合成功防止了在聚合过程中从模型更新中推断出单个客户端数据。
• 差分隐私有效限制了对单个家庭的成员身份推断攻击风险。
• 该系统实现了无需数据共享的协作预测，满足了监管和商业约束。