[论文解读] FedToken: Tokenized Incentives for Data Contribution in Federated Learning

Shashi Raj Pandey, Lam Duc Nguyen+1 more|arXiv (Cornell University)|Sep 20, 2022

Privacy-Preserving Technologies in Data被引用 4

一句话总结

FedToken 提出了一种基于区块链的、以贡献为基础的联邦学习代币激励机制，通过使用 Shapley 值近似方法，根据数据价值公平分配代币给客户端。该机制在固定预算下，通过战略性选择高质量更新，提升了通信效率和模型收敛速度，与 FedFomo 相比，通信开销降低了 29.47%，在低配额条件下，测试准确率最高提升了 12.5%。

ABSTRACT

Incentives that compensate for the involved costs in the decentralized training of a Federated Learning (FL) model act as a key stimulus for clients' long-term participation. However, it is challenging to convince clients for quality participation in FL due to the absence of: (i) full information on the client's data quality and properties; (ii) the value of client's data contributions; and (iii) the trusted mechanism for monetary incentive offers. This often leads to poor efficiency in training and communication. While several works focus on strategic incentive designs and client selection to overcome this problem, there is a major knowledge gap in terms of an overall design tailored to the foreseen digital economy, including Web 3.0, while simultaneously meeting the learning objectives. To address this gap, we propose a contribution-based tokenized incentive scheme, namely exttt{FedToken}, backed by blockchain technology that ensures fair allocation of tokens amongst the clients that corresponds to the valuation of their data during model training. Leveraging the engineered Shapley-based scheme, we first approximate the contribution of local models during model aggregation, then strategically schedule clients lowering the communication rounds for convergence and anchor ways to allocate \emph{affordable} tokens under a constrained monetary budget. Extensive simulations demonstrate the efficacy of our proposed method.

研究动机与目标

• 解决去中心化联邦学习（FL）系统中客户端参与缺乏公平、透明且可信激励的问题。
• 根据客户端本地模型更新对全局模型性能的实际贡献，进行量化并给予奖励。
• 通过在聚合过程中战略性地选择高价值客户端，提升联邦学习中的通信效率，减少冗余训练轮次。
• 通过时间折扣和代币化惩罚机制，增强对搭便车者和低质量更新的鲁棒性。
• 将代币化激励集成到 Web 3.0 和原生区块链的联邦学习生态系统中，实现可扩展、无需信任的数据贡献。

提出的方法

• 使用 Shapley 值近似方法，估算每个客户端的本地模型更新对全局模型性能的边际贡献，该过程在聚合阶段进行。
• 设计代币分配机制，根据贡献价值分配奖励，固定货币预算以每轮配额 $|\mathcal{Q}|$ 表示。
• 应用时间折扣机制，通过降低低质量或过时更新的代币奖励，抑制搭便车行为。
• 利用区块链技术不可篡改地记录所有代币交易，确保贡献与奖励的透明性与可审计性。
• 对客户端选择进行战略性优化，优先选择高贡献更新，从而最小化通信轮次与开销。
• 该框架支持两种激励方案：PF（按比例资助）和 EP（平等参与），并在不同预算与配额约束下评估性能。

实验结果

研究问题

• RQ1 如何基于对模型性能的实际影响，公平地量化并激励联邦学习中客户端的贡献？
• RQ2 在模型聚合过程中，如何在固定预算下制定最优客户端选择策略，以最大化通信效率？
• RQ3 如何利用区块链技术构建一种透明且无需信任的激励分发机制，用于去中心化联邦学习？
• RQ4 时间折扣对抑制低质量或延迟更新在联邦学习训练中的影响是什么？
• RQ5 与基线联邦学习方法相比，所提出的代币化激励机制在收敛速度、准确率和通信开销方面表现如何？

主要发现

• 当配额与模型大小之比 $|\mathcal{Q}|/|M|$ 低于 0.8 时，FedToken 相较于 FedAvg 和 FedFomo，测试准确率最高提升 12.5%。
• 由于战略性客户端选择，FedToken 的通信开销相比 FedFomo 平均降低 29.47%，相比 FedAvg 降低 72.76%。
• 代币奖励与贡献质量高度一致，客户端在 PF 方案下对高质量更新获得更高奖励，尤其显著。
• 采用 $\zeta^t = 0.7$ 的时间折扣显著降低了对低质量或过时更新的激励，提升了系统鲁棒性。
• 系统通过 withhold 代币检测并排除数据投毒攻击，将预算保留给高价值贡献者。
• 当预算 $\mathbb{B} = 1000$ 耗尽时，测试准确率与通信轮次之间呈现出线性关系，表明在配额约束下实现了代币的最优利用。