[论文解读] Incentive Mechanism Design for Joint Resource Allocation in Blockchain-based Federated Learning

Zhilin Wang, Qin Hu+3 more|arXiv (Cornell University)|Feb 18, 2022

Privacy-Preserving Technologies in Data被引用 5

一句话总结

该论文提出了一种区块链联邦学习（BCFL）中联合资源分配的激励机制，其中客户端在共享设备上同时进行模型训练和区块挖掘。通过基于Shapley值的奖励机制与两阶段Stackelberg博弈，该机制在信息不完全的情况下优化了训练与挖掘的资源分配，实现了更优的模型性能和客户端参与度，采用公平且效用最大化的策略。

ABSTRACT

Blockchain-based federated learning (BCFL) has recently gained tremendous attention because of its advantages such as decentralization and privacy protection of raw data. However, there has been few research focusing on the allocation of resources for clients in BCFL. In the BCFL framework where the FL clients and the blockchain miners are the same devices, clients broadcast the trained model updates to the blockchain network and then perform mining to generate new blocks. Since each client has a limited amount of computing resources, the problem of allocating computing resources into training and mining needs to be carefully addressed. In this paper, we design an incentive mechanism to assign each client appropriate rewards for training and mining, and then the client will determine the amount of computing power to allocate for each subtask based on these rewards using the two-stage Stackelberg game. After analyzing the utilities of the model owner (MO) (i.e., the BCFL task publisher) and clients, we transform the game model into two optimization problems, which are sequentially solved to derive the optimal strategies for both the MO and clients. Further, considering the fact that local training related information of each client may not be known by others, we extend the game model with analytical solutions to the incomplete information scenario. Extensive experimental results demonstrate the validity of our proposed schemes.

研究动机与目标

• 解决客户端在共享设备上同时执行模型训练与区块链挖掘时的资源分配挑战。
• 设计一种激励机制，根据客户端对模型训练和挖掘的贡献实现公平奖励。
• 在系统对客户端本地训练数据和计算能力信息不完全的情况下，实现最优资源分配。
• 通过顺序的两阶段Stackelberg博弈框架，最大化模型所有者与客户端的效用。
• 通过协调客户端激励与系统整体性能目标，确保BCFL的可持续高效运行。

提出的方法

• 构建两阶段Stackelberg博弈模型，其中模型所有者（领导者）设定奖励，客户端（追随者）根据激励选择资源分配方案。
• 应用Shapley值公平评估每个客户端对模型训练的贡献，该评估结果用于奖励分配与约束设计。
• 将博弈转化为两个顺序优化问题：一个用于模型所有者的奖励设计，另一个用于客户端的资源分配决策。
• 使用Lagrangian松弛法与KKT条件求解在完全信息与不完全信息两种场景下的优化问题。
• 在不完全信息模型中引入改进的约束条件，以限制每个客户端的总资源使用量，确保可行性与公平性。
• 基于KKT条件推导出在两种场景下最优训练与挖掘功率分配的解析解，并通过大量实验验证。

实验结果

研究问题

• RQ1 在BCFL中，如何在共享客户端设备上联合分配计算资源用于模型训练与区块链挖掘？
• RQ2 在去中心化的BCFL系统中，何种激励机制可确保基于客户端贡献的公平且高效的奖励分配？
• RQ3 当系统缺乏客户端本地数据与计算能力的完整信息时，如何实现最优资源分配？
• RQ4 信息不完全对BCFL中激励机制的稳定性与性能有何影响？
• RQ5 与基线方法相比，所提出的两阶段Stackelberg博弈框架如何提升系统效用与客户端参与度？

主要发现

• 所提出的激励机制通过将模型所有者与客户端之间的互动建模为两阶段Stackelberg博弈，实现了最优资源分配。
• 基于KKT条件，推导出在完全信息与不完全信息两种场景下最优训练与挖掘功率分配的解析解。
• 基于Shapley值的奖励机制确保了贡献评估的公平性，该公平性直接影响客户端优化问题中的约束设计。
• 通过在现实约束下实现效用最大化，模型展现出更优的系统性能与客户端参与度。
• 大量实验验证了所提方案在提升模型准确率与系统可持续性方面的有效性。
• 在不完全信息场景下，通过引入有界资源使用约束，该方案保持了强劲性能，确保了可行性与公平性。