[论文解读] An Efficient and Reliable Asynchronous Federated Learning Scheme for Smart Public Transportation

Chenhao Xu, Youyang Qu+4 more|arXiv (Cornell University)|Aug 15, 2022

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出DBAFL，一种用于智能公共交通的基于区块链的异步联邦学习方案，可提升学习性能、效率与可靠性。通过集成基于委员会的共识算法以实现低延迟信任，以及采用动态缩放因子以最优方式加权过时的本地模型，DBAFL实现了更快的收敛速度，并对投毒攻击和DDoS攻击具有强抵抗力，在异构环境中优于最先进方法。

ABSTRACT

Since the traffic conditions change over time, machine learning models that predict traffic flows must be updated continuously and efficiently in smart public transportation. Federated learning (FL) is a distributed machine learning scheme that allows buses to receive model updates without waiting for model training on the cloud. However, FL is vulnerable to poisoning or DDoS attacks since buses travel in public. Some work introduces blockchain to improve reliability, but the additional latency from the consensus process reduces the efficiency of FL. Asynchronous Federated Learning (AFL) is a scheme that reduces the latency of aggregation to improve efficiency, but the learning performance is unstable due to unreasonably weighted local models. To address the above challenges, this paper offers a blockchain-based asynchronous federated learning scheme with a dynamic scaling factor (DBAFL). Specifically, the novel committee-based consensus algorithm for blockchain improves reliability at the lowest possible cost of time. Meanwhile, the devised dynamic scaling factor allows AFL to assign reasonable weights to stale local models. Extensive experiments conducted on heterogeneous devices validate outperformed learning performance, efficiency, and reliability of DBAFL.

研究动机与目标

• 解决在动态、资源受限的智能公共交通环境中，同步联邦学习（FL）存在的低效与不可靠问题。
• 通过利用区块链的去中心化信任模型，缓解联邦学习中的投毒和DDoS攻击等安全风险。
• 通过为过时的本地模型分配合理权重，提升异步联邦学习的学习性能，避免收敛不稳定性。
• 在保持高训练效率的前提下，通过轻量级委员会操作最小化共识过程中的区块链开销。
• 在车联网（IoV）网络中，实现对异构车辆与路边单元（RSUs）的可扩展、实时模型更新。

提出的方法

• 提出一种新型基于委员会的共识算法，其中随机选举的委员会负责人定期使用其本地数据集验证和确认本地模型更新。
• 利用委员会负责人检测并降低低准确率本地模型的权重，从而在无需全网共识的情况下增强对投毒攻击的抵抗力。
• 实施异步聚合策略，一旦收到任意本地模型即刻触发模型更新，消除对慢速节点的等待。
• 设计一种动态缩放因子，根据模型的准确率和过时程度为其分配权重，从而提升全局模型的收敛性能。
• 通过轻量级委员会操作集成区块链以确保模型更新的透明性与不可篡改性，同时最小化通信与计算成本。
• 采用基于哈希的随机化机制选举新的委员会负责人，防止对聚合服务器的针对性DDoS攻击。

实验结果

研究问题

• RQ1 能否使基于区块链的共识机制足够高效，以在动态IoV环境中支持实时联邦学习，而不会引入显著延迟？
• RQ2 在异步联邦学习中，如何有效加权过时的本地模型，以稳定学习过程并提升全局模型准确率？
• RQ3 在移动、去中心化的IoV环境中，基于委员会的共识模型在多大程度上能抵抗投毒和DDoS攻击？
• RQ4 与固定权重或丢弃过时模型的方法相比，所提出的动态缩放因子在提升收敛速度和最终模型准确率方面有何优势？
• RQ5 在公共交通系统中集成区块链的联邦学习，其安全性、效率与可扩展性之间的权衡如何？

主要发现

• DBAFL的总训练轮次时间仅比纯异步基线ASOFED多0.97秒，表明区块链开销极低。
• 在所有评估方法中，DBAFL的训练轮次时间最短，且无等待时间浪费，优于同步方案如FedAVG和BSFL。
• DBAFL在投毒攻击下保持稳定收敛，最终测试准确率达46–49%，当丢弃准确率低于80–90%的模型时性能进一步提升。
• 在DDoS攻击下，DBAFL的收敛时间在攻击流量达90%时仍基本不变，而经典AFL的收敛时间从40秒恶化至200秒。
• 动态缩放因子通过为过时模型分配适当权重，显著稳定了学习性能，防止了收敛不稳定性。
• 随着网络规模从10个节点增至100个节点，DBAFL在可扩展性方面仍优于同步方案及其他基于区块链的联邦学习方法。