[论文解读] An Incentive Mechanism for Federated Learning in Wireless Cellular network: An Auction Approach

Tra Huong Thi Le, Nguyen H. Tran+5 more|arXiv (Cornell University)|Jan 1, 2020

Privacy-Preserving Technologies in Data参考文献 26被引用 4

一句话总结

本文提出了一种原始-对偶贪心拍卖机制，以激励无线蜂窝网络中的联邦学习（FL）中的移动用户，用户根据其模型训练的最低能耗成本进行出价。基站作为拍卖人，选择获胜者并设定支付金额，确保机制的诚实性、个体理性与效率。仿真结果表明，该机制相比固定价格方案，社会福利提高了400%。

ABSTRACT

Federated Learning (FL) is a distributed learning framework that can deal with the distributed issue in machine learning and still guarantee high learning performance. However, it is impractical that all users will sacrifice their resources to join the FL algorithm. This motivates us to study the incentive mechanism design for FL. In this paper, we consider a FL system that involves one base station (BS) and multiple mobile users. The mobile users use their own data to train the local machine learning model, and then send the trained models to the BS, which generates the initial model, collects local models and constructs the global model. Then, we formulate the incentive mechanism between the BS and mobile users as an auction game where the BS is an auctioneer and the mobile users are the sellers. In the proposed game, each mobile user submits its bids according to the minimal energy cost that the mobile users experiences in participating in FL. To decide winners in the auction and maximize social welfare, we propose the primal-dual greedy auction mechanism. The proposed mechanism can guarantee three economic properties, namely, truthfulness, individual rationality and efficiency. Finally, numerical results are shown to demonstrate the performance effectiveness of our proposed mechanism.

研究动机与目标

• 为解决无线蜂窝网络中因能耗成本导致的用户参与度低的问题。
• 设计一种激励机制，通过将用户激励与系统效率对齐，鼓励移动用户贡献其本地模型更新。
• 通过将基站与用户之间的互动建模为拍卖博弈，最大化联邦学习服务市场中的社会福利。
• 确保所提机制具备关键经济特性——诚实性、个体理性与计算效率。

提出的方法

• 将联邦学习服务市场建模为组合拍卖，其中基站作为买方，移动用户作为卖方，提交基于资源需求和能耗成本的出价。
• 提出一种原始-对偶贪心算法，以低计算复杂度求解NP难的获胜者选择问题。
• 设计一种基于近似最优价格向量（fi = fo × η^1.15_i）的支付规则，其中fo为基准价格，ηi反映用户特定的效率。
• 提出一种出价策略，使用户在最小化能耗成本的同时，通过主导策略激励确保真实报价。
• 采用分数松弛方法推导社会福利的下界，从而实现与最优解和贪心解的性能对比评估。
• 采用具有线性、次线性和超线性价格方案的固定价格基准，用于对比评估。

实验结果

研究问题

• RQ1 如何设计一种激励机制，使移动用户在面临能耗成本的情况下仍能参与联邦学习？
• RQ2 何种拍卖机制可在无线联邦学习环境中确保诚实性、个体理性与计算效率？
• RQ3 所提出的拍卖机制在社会福利与资源利用率方面相较于固定价格方案表现如何？
• RQ4 基准价格变化对固定价格与自适应拍卖机制性能的影响是什么？
• RQ5 低复杂度算法是否能在获胜者选择过程中实现近似最优的社会福利？

主要发现

• 所提出的拍卖机制相比固定价格方案，社会福利提高了400%，展现出显著的性能提升。
• 贪心方案的社会福利显著高于下界，并且随着用户数量增加，逐渐逼近最优解。
• 在不同价格设置下，固定价格方案表现欠佳，社会福利在基准价格超过最优水平后先上升后下降。
• 所提机制在社会福利方面优于所有固定价格变体（线性、次线性、超线性），尽管固定方案使用了更多资源且吸引了更多用户。
• 固定价格方案在资源利用率和获胜者比例方面更高，但代价是社会福利显著降低。
• 原始-对偶贪心算法有效平衡了效率与最优性，在计算复杂度较低的前提下实现了接近最优的性能。