[论文解读] Secure and Efficient Federated Learning Through Layering and Sharding Blockchain

Shuo Yuan, Bin Cao+3 more|arXiv (Cornell University)|Apr 27, 2021

Privacy-Preserving Technologies in Data参考文献 57被引用 6

一句话总结

本文提出ChainFL，一种基于双层区块链的联邦学习系统，通过分片技术将物联网设备划分为子链，并采用基于DAG的主链实现跨子链验证，相较于传统联邦学习系统，训练效率最高提升14%，鲁棒性提升三倍，同时通过分层共识和虚拟剪枝机制，有效缓解了恶意设备和慢速节点带来的安全风险。

ABSTRACT

Introducing blockchain into Federated Learning (FL) to build a trusted edge computing environment for transmission and learning has attracted widespread attention as a new decentralized learning pattern. However, traditional consensus mechanisms and architectures of blockchain systems face significant challenges in handling large-scale FL tasks, especially on Internet of Things (IoT) devices, due to their substantial resource consumption, limited transaction throughput, and complex communication requirements. To address these challenges, this paper proposes ChainFL, a novel two-layer blockchain-driven FL system. It splits the IoT network into multiple shards within the subchain layer, effectively reducing the scale of information exchange, and employs a Direct Acyclic Graph (DAG)-based mainchain as the mainchain layer, enabling parallel and asynchronous cross-shard validation. Furthermore, the FL procedure is customized to integrate deeply with blockchain technology, and a modified DAG consensus mechanism is designed to mitigate distortion caused by abnormal models. To provide a proof-of-concept implementation and evaluation, multiple subchains based on Hyperledger Fabric and a self-developed DAG-based mainchain are deployed. Extensive experiments demonstrate that ChainFL significantly surpasses conventional FL systems, showing up to a 14% improvement in training efficiency and a threefold increase in robustness.

研究动机与目标

• 解决传统联邦学习在无信任物联网环境中面临的可扩展性与安全性限制。
• 降低大规模联邦学习部署中区块链的开销，提升交易吞吐量。
• 通过去中心化共识与模型验证机制，缓解恶意设备与慢速节点带来的风险。
• 设计一种可扩展、高效且安全的联邦学习框架，兼容资源受限的物联网设备。
• 在真实环境中评估区块链集成延迟与模型鲁棒性之间的权衡。

提出的方法

• 系统采用双层架构：子链用于设备分片内的本地模型共识，主链采用基于DAG的结构实现全局模型验证。
• 分片技术将物联网网络划分为更小、更易管理的子链，降低每个节点的通信与存储开销。
• 改进的DAG共识机制支持异步、并行的跨子链验证，提升吞吐量与容错能力。
• 联邦学习训练过程与区块链紧密集成，包括本地模型评估以及主链中对恶意模型的虚拟剪枝。
• 分层共识协议结合了同步的分片级共识与异步的主链验证，以应对过时模型与慢速节点问题。
• 已基于Hyperledger Fabric实现子链，主链采用自研的基于DAG的主链，支持端到端评估。

实验结果

研究问题

• RQ1 如何高效地将区块链集成到联邦学习中，以降低大规模物联网网络中的延迟并提升可扩展性？
• RQ2 分片在区块链扩展的联邦学习系统中，能在多大程度上降低通信与存储开销？
• RQ3 与传统区块链结构相比，基于DAG的主链是否能在联邦学习中实现更快、更鲁棒的共识？
• RQ4 与基线联邦学习方法相比，所提出系统在恶意设备攻击下的表现如何？
• RQ5 区块链集成带来的延迟增加与模型鲁棒性提升之间存在怎样的权衡？

主要发现

• 与FedAvg和AsynFL等传统联邦学习系统相比，ChainFL在训练效率上最高提升14%。
• 系统在对抗性设备攻击下表现出三倍的鲁棒性提升，即使多达30%的设备为恶意设备，仍能保持稳定收敛。
• 尽管因区块链开销导致训练延迟略有增加，ChainFL在对抗性条件下仍优于AsynFL，展现出更高的整体收敛稳定性和准确性。
• 主链中的虚拟剪枝机制能有效消除恶意模型，维持全局模型的准确性，并防止收敛性能下降。
• ChainFL对超参数（如本地训练轮次和批量大小）的敏感度与FedAvg相似，表明其与标准联邦学习配置具有良好的兼容性。
• 系统性能在不同分片数量及每分片设备数量下保持稳定，随着分片规模增大，困惑度仅出现轻微下降。