[论文解读] Online Auction-Based Incentive Mechanism Design for Horizontal Federated Learning with Budget Constraint

Jingwen Zhang, Yuezhou Wu+1 more|arXiv (Cornell University)|Jan 22, 2022

Privacy-Preserving Technologies in Data被引用 9

一句话总结

本文提出了一种基于在线逆向拍卖的激励机制，用于横向联邦学习，该机制在工人实时到达时动态选择他们，利用声誉和出价价格，在固定预算下确保高质量的模型训练。该机制实现了时间与成本的诚实性，同时保持了高模型准确率，在实验评估中优于基线的在线与离线方法。

ABSTRACT

Federated learning makes it possible for all parties with data isolation to train the model collaboratively and efficiently while satisfying privacy protection. To obtain a high-quality model, an incentive mechanism is necessary to motivate more high-quality workers with data and computing power. The existing incentive mechanisms are applied in offline scenarios, where the task publisher collects all bids and selects workers before the task. However, it is practical that different workers arrive online in different orders before or during the task. Therefore, we propose a reverse auction-based online incentive mechanism for horizontal federated learning with budget constraint. Workers submit bids when they arrive online. The task publisher with a limited budget leverages the information of the arrived workers to decide on whether to select the new worker. Theoretical analysis proves that our mechanism satisfies budget feasibility, computational efficiency, individual rationality, consumer sovereignty, time truthfulness, and cost truthfulness with a sufficient budget. The experimental results show that our online mechanism is efficient and can obtain high-quality models.

研究动机与目标

• 为解决现有联邦学习激励机制中假设离线选择工人的缺陷，该假设在工人按顺序到达时不切实际。
• 设计一种在线激励机制，使任务发布方可动态选择高质量工人，同时遵守固定预算。
• 将工人声誉作为数据质量与可靠性的代理，纳入选择过程。
• 在在线到达条件下，确保关键经济属性（如预算可行性、个体理性、诚实性）的满足。
• 与离线和在线基线方法相比，评估该机制在模型准确率、效用和效率方面的表现。

提出的方法

• 联邦学习任务被划分为多个全局迭代，工人在不同时间步到达，并提交密封出价，表示其每轮的声称成本。
• 在第一个时间步，发布方使用离线比例分配机制，基于工人的出价和声誉选择工人。
• 在后续时间步，已到达的工人被分为两组，通过相互采样估算支付密度阈值。
• 若工人的单位声誉出价价格（出价/声誉）低于从另一组推导出的相应支付密度阈值，则选择该工人。
• 通过基于阈值的选择机制，确保时间诚实性（激励工人真实报告到达时间）和成本诚实性。
• 理论分析证明，该机制在预算充足条件下满足预算可行性、计算效率、个体理性、消费者主权、时间诚实性和成本诚实性。

实验结果

研究问题

• RQ1 能否为横向联邦学习设计一种在线逆向拍卖机制，在遵守固定预算的前提下，动态选择随时间到达的工人？
• RQ2 在无法直接共享数据的情况下，如何有效利用工人声誉来推断数据质量与可靠性？
• RQ3 所提出的机制是否能确保工人报告其真实到达时间与成本，从而实现诚实性？
• RQ4 与离线基准相比，该在线机制在模型准确率和发布方效用方面的表现如何？
• RQ5 预算规模和工人数量对机制选择高质量工人及维持模型质量能力的影响是什么？

主要发现

• 所提出的在线机制实现了成本诚实性与时间诚实性，确保工人有激励报告其真实成本与到达时间。
• 该机制保持了高模型准确率，在MNIST上的全局模型损失为0.4393，在Fashion MNIST上为1.1162，接近离线最优基准（0.4389与1.1376）。
• 在MNIST和Fashion MNIST上，被选中的工人中数据准确率为1.0的比例均保持在100%，表明高质量参与者的有效选择。
• 发布方每单位支付的效用显著高于Vanilla FL与Bid Greedy基线，且与离线RRAFL和Proportional Share机制相当。
• 该机制在不同工人数量与预算水平下表现稳健，实验结果表明在在线条件下模型质量几乎无退化。
• 实验结果证实，该机制在实时动态工人选择中，有效平衡了预算约束、诚实性与模型性能。