[论文解读] Incentive Mechanism Design for Federated Learning: Hedonic Game Approach

Cengis Hasan|arXiv (Cornell University)|Jan 24, 2021

Auction Theory and Applications参考文献 20被引用 4

一句话总结

本文提出了一种基于享乐博弈的联邦学习激励机制，以确保自利代理之间的稳定联盟形成。通过将代理聚类建模为享乐博弈，并引入纳什稳定集合，作者证明了可加可分且对称的收益分配可保证纳什稳定划分，并表明由此产生的非合作博弈是一个潜在博弈，从而确保收敛到稳定且去中心化的聚类解。

ABSTRACT

Incentive mechanism design is crucial for enabling federated learning. We deal with clustering problem of agents contributing to federated learning setting. Assuming agents behave selfishly, we model their interaction as a stable coalition partition problem using hedonic games where agents and clusters are the players and coalitions, respectively. We address the following question: is there a family of hedonic games ensuring a Nash-stable coalition partition? We propose the Nash-stable set which determines the family of hedonic games possessing at least one Nash-stable partition, and analyze the conditions of non-emptiness of the Nash-stable set. Besides, we deal with the decentralized clustering. We formulate the problem as a non-cooperative game and prove the existence of a potential game.

研究动机与目标

• 为解决在联邦学习中激励自利代理形成稳定联盟的挑战。
• 将代理聚类建模为享乐博弈，其中偏好仅取决于联盟成员。
• 确定在联邦学习环境中纳什稳定联盟划分存在的条件。
• 设计一种去中心化激励机制，确保无需中心协调的稳定且可扩展的聚类。
• 证明去中心化聚类公式中存在潜在博弈，从而实现收敛到稳定均衡。

提出的方法

• 将联邦学习聚类正式化为享乐联盟形成博弈，其中代理的偏好仅取决于其联盟成员。
• 引入纳什稳定集合，作为至少存在一个纳什稳定划分的享乐博弈家族。
• 证明可加可分且对称的收益分配机制可保证纳什稳定性。
• 将去中心化聚类过程建模为具有个体策略选择的非合作博弈。
• 定义潜在函数 $ P_{\mathbf{v}}(\bm{\sigma}) = \sum_{S\in\Pi(\bm{\sigma})} \sum_{(i,j)\in\mathcal{V}(S)} v(i,j) $，以捕捉总联盟收益并确保博弈收敛。
• 表明任何代理的策略改进均对应潜在函数的增加，从而确认该博弈为潜在博弈。

实验结果

研究问题

• RQ1 在具有自利代理的联邦学习环境中，纳什稳定联盟划分在何种条件下存在？
• RQ2 哪些收益分配机制可确保享乐博弈中纳什稳定划分的存在？
• RQ3 能否将联邦学习中的去中心化聚类建模为潜在博弈，以保证收敛到稳定均衡？
• RQ4 可加可分且对称的收益函数如何促进联盟形成中的纳什稳定性？
• RQ5 潜在函数在确保去中心化非合作博弈公式中的稳定性和收敛性方面起什么作用？

主要发现

• 当收益分配为可加可分且对称时，纳什稳定集合非空，从而保证至少存在一个纳什稳定联盟划分。
• 可加可分且对称的收益函数导致潜在博弈，从而保证存在一个对应于纳什稳定划分的纳什均衡。
• 潜在函数 $ P_{\mathbf{v}}(\bm{\sigma}) $ 捕获了所有联盟的总价值，并确保任何代理的单方面策略改进都会增加潜在函数，从而实现收敛。
• 去中心化聚类博弈是潜在博弈，这意味着最佳响应动态会收敛到纳什均衡，该均衡对应于稳定联盟结构。
• 所提出的机制确保任何代理都无法通过单方面切换联盟来提高其效用，从而在指定的收益分配规则下实现纳什稳定性。
• 理论框架为设计促进稳定、可扩展且保护隐私的联邦学习系统激励机制提供了基础。