[论文解读] IronForge: An Open, Secure, Fair, Decentralized Federated Learning

Guangsheng Yu, Xu Wang+6 more|arXiv (Cornell University)|Jan 7, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

IronForge 是一个完全去中心化的联邦学习框架，通过有向无环图（DAG）消除对中心协调器的依赖，实现在真实、资源不均等网络中的异步、开放且公平的模型聚合。它引入了一种安全、状态一致的激励机制，包含基于学习的证明（PoL）挑战，并防御模型窃取、后门及数据隐私攻击，在真实场景中展现出卓越的性能、公平性与安全性。

ABSTRACT

Federated learning (FL) provides an effective machine learning (ML) architecture to protect data privacy in a distributed manner. However, the inevitable network asynchrony, the over-dependence on a central coordinator, and the lack of an open and fair incentive mechanism collectively hinder its further development. We propose extsc{IronForge}, a new generation of FL framework, that features a Directed Acyclic Graph (DAG)-based data structure and eliminates the need for central coordinators to achieve fully decentralized operations. extsc{IronForge} runs in a public and open network, and launches a fair incentive mechanism by enabling state consistency in the DAG, so that the system fits in networks where training resources are unevenly distributed. In addition, dedicated defense strategies against prevalent FL attacks on incentive fairness and data privacy are presented to ensure the security of extsc{IronForge}. Experimental results based on a newly developed testbed FLSim highlight the superiority of extsc{IronForge} to the existing prevalent FL frameworks under various specifications in performance, fairness, and security. To the best of our knowledge, extsc{IronForge} is the first secure and fully decentralized FL framework that can be applied in open networks with realistic network and training settings.

研究动机与目标

• 解决集中式联邦学习的局限性，包括单点故障、网络异步性以及在资源不均等环境中不公平的激励机制。
• 在不依赖中心协调器的前提下，维持开放网络中系统的可用性与训练灵活性。
• 建立一种公平且开放的激励机制，根据可验证的训练贡献奖励参与者，即使在资源差异存在的情况下亦能实现。
• 防御去中心化 FL 中的关键攻击，如模型窃取、合谋攻击、后门攻击及数据隐私泄露。
• 设计一种安全、状态一致的基于 DAG 的架构，支持去中心化环境下的公开验证与共识。

提出的方法

• IronForge 使用有向无环图（DAG）表示模型更新，实现无需中心协调器的异步聚合。
• 采用基于可验证随机函数（VRF）的委员会选举机制，确保共识节点的公平且不可预测的选择。
• 通过基于学习的证明（PoL）机制，允许参与者向模型所有者发起挑战，要求其按需重新生成训练结果以供公开验证。
• 系统在时间窗口 ΔT 内强制保持状态一致性，确保所有节点对全局 DAG（Global-DAG）状态具有统一视图，防止共识攻击。
• 在 PoL 挑战期间应用数据集混淆技术，在保障模型可用性的同时保护数据隐私。
• 安全防御措施包括在共识过程中从头开始重放训练，并应用非独立同分布（non-IID）噪声，以降低重复挑战带来的隐私泄露风险。

Figure 1: System model of IronForge

实验结果

研究问题

• RQ1 一个完全去中心化的联邦学习系统能否在存在网络异步性的情况下，消除对中心协调器的依赖并维持系统稳定性？
• RQ2 在训练资源分布不均的去中心化联邦学习系统中，如何建立公平且开放的激励机制？
• RQ3 在公开、开放的网络中，如何设计机制防止模型窃取与合谋攻击，同时确保模型所有权与训练投入可被验证？
• RQ4 在公开验证过程（如基于学习的证明挑战）中，如何保护数据隐私？
• RQ5 基于 DAG 的架构能否在去中心化联邦学习环境中确保长期的状态一致性，并抵抗共识攻击？

主要发现

• IronForge 通过消除中心协调器实现了完全去中心化，能够在具备真实网络与训练条件的开放网络中运行。
• 基于 DAG 的模型结构支持异步聚合，与同步或准同步联邦学习框架相比，显著提升了系统对网络异步性的鲁棒性。
• 基于学习的证明（PoL）机制支持对训练投入的公开验证，有效防止模型窃取与虚假贡献声明。
• 在足够长的时间窗口 ΔT 内维持状态一致性，确保共识节点对全局 DAG 状态达成一致，防止因网络延迟导致的无限期分歧。
• 在 PoL 挑战期间对数据集进行混淆，降低了隐私泄露风险，同时不损害模型可用性，有效防范模型熔炼攻击。
• 在 FLSim 测试平台上的实验结果表明，IronForge 在性能、公平性与安全性等多个指标上均优于现有框架，包括奖励分配稳定性以及对中毒攻击与后门攻击的抵抗能力。

Figure 2: Task-DAG. The figure illustrates an overview of starting a new DAG-based FL task, also known as Task-DAG . One with aims to improve his model accuracy to a certain target with the help of the community can release a task as the task publisher. Some amount of token is deposited as the prize