[论文解读] Blockchain-based Monitoring for Poison Attack Detection in Decentralized Federated Learning

Ranwa Al Mallah, David López|arXiv (Cornell University)|Sep 30, 2022

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出了一种基于区块链的解耦式监控与检测框架，用于去中心化联邦学习中的投毒攻击防御。通过并行化监控（通过 minersMON 实现）与训练/检测（通过 minersFL 实现），该方法降低了端到端延迟，提升了可扩展性与鲁棒性，并在存在多个攻击者的情况下仍能确保可靠模型聚合，且性能下降最小。

ABSTRACT

Federated Learning (FL) is a machine learning technique that addresses the privacy challenges in terms of access rights of local datasets by enabling the training of a model across nodes holding their data samples locally. To achieve decentralized federated learning, blockchain-based FL was proposed as a distributed FL architecture. In decentralized FL, the chief is eliminated from the learning process as workers collaborate between each other to train the global model. Decentralized FL applications need to account for the additional delay incurred by blockchain-based FL deployments. Particularly in this setting, to detect targeted/untargeted poisoning attacks, we investigate the end-to-end learning completion latency of a realistic decentralized FL process protected against poisoning attacks. We propose a technique which consists in decoupling the monitoring phase from the detection phase in defenses against poisoning attacks in a decentralized federated learning deployment that aim at monitoring the behavior of the workers. We demonstrate that our proposed blockchain-based monitoring improved network scalability, robustness and time efficiency. The parallelization of operations results in minimized latency over the end-to-end communication, computation, and consensus delays incurred during the FL and blockchain operations.

研究动机与目标

• 解决将投毒攻击检测集成到去中心化联邦学习（FL）与区块链中所导致的高端到端延迟问题。
• 通过消除主节点并实现对等协作，克服传统联邦学习中集中协调的瓶颈。
• 通过在区块链保护的联邦学习架构中解耦监控与检测阶段，提升系统鲁棒性与可扩展性。
• 在资源受限设备（如物联网和移动节点）的去中心化环境中，实现高效、安全且保护隐私的模型训练。
• 实现对工作者行为的动态、实时评估，以过滤恶意节点，同时不中断训练流水线。

提出的方法

• 使用专用的区块链矿工（minersMON 和 minersFL）将监控阶段（工作者行为追踪）与检测及训练阶段解耦。
• 利用区块链作为不可篡改、无需信任的账本，记录并验证本地模型更新与工作者行为模式。
• 指派 minersMON 持续监控各轮次中工作者的行为，并维护一个经过筛选的、可靠的节点池。
• 允许 minersFL 从预先验证的可靠节点集中独立选择用于模型聚合，避免因实时监控造成的延迟。
• 通过并行执行监控与训练操作，最大限度减少通信、计算与共识延迟。
• 实施共识机制，在聚合后将已验证的全局模型更新追加至区块链，确保数据完整性和透明性。

实验结果

研究问题

• RQ1 在集成实时投毒攻击检测的情况下，如何最小化去中心化联邦学习中的端到端延迟？
• RQ2 在区块链保护的联邦学习环境中，解耦监控与检测阶段对系统可扩展性与鲁棒性有何影响？
• RQ3 在多个投毒攻击者存在的情况下，所提出框架的性能如何？是否能保持低延迟与高准确率？
• RQ4 该方法能否在资源受限设备（如智能手机和物联网节点）上高效部署？
• RQ5 与顺序执行且依赖主节点的模型相比，并行化监控与训练操作在多大程度上减少了整体系统延迟？

主要发现

• 所提出的解耦式监控与检测框架通过并行执行监控与训练任务，显著降低了端到端学习完成延迟。
• 即使在多个攻击者条件下，系统仍保持低收敛时间，展现出在不同网络规模（3、6 和 9 名工作者）下的鲁棒性与可扩展性。
• 随着工作者数量增加，延迟保持稳定且最低，这是由于监控与训练职责的透明分离所致。
• 该技术对攻击者数量不敏感，在系统中存在一个或两个攻击者时均表现出一致的性能。
• 基于区块链的设计支持对模型更新与工作者行为的安全、隐私保护及透明化日志记录，支持动态信任评估。
• 该框架可部署于低资源设备（如移动设备与物联网节点），并通过合理的矿工分配，具备实现能效与带宽优化的潜力。