[论文解读] A VCG-based Fair Incentive Mechanism for Federated Learning

Mingshu Cong, Han Yu+4 more|arXiv (Cornell University)|Aug 15, 2020

Privacy-Preserving Technologies in Data参考文献 26被引用 22

一句话总结

本文提出FVCG，一种基于VCG的联邦学习激励机制，公平补偿数据所有者贡献数据，同时确保真实性、个体理性与弱预算平衡。该机制利用神经网络求解函数优化问题，在大量实验中验证了收敛性与经济合理性，实现高社会剩余与最低程度的不公平。

ABSTRACT

The enduring value of the Vickrey-Clarke-Groves (VCG) mechanism has been highlighted due to its adoption by Facebook ad auctions. Our research delves into its utility in the collaborative virtual goods production (CVGP) game, which finds application in realms like federated learning and crowdsourcing, in which bidders take on the roles of suppliers rather than consumers. We introduce the Procurement-VCG (PVCG) sharing rule into existing VCG mechanisms such that they can handle capacity limits and the continuous strategy space characteristic of the reverse auction setting in CVGP games. Our main theoretical contribution provides mathematical proofs to show that PVCG is the first in the CVGP game context to simultaneously achieve truthfulness, Pareto efficiency, individual rationality, and weak budget balance. These properties suggest the potential for Pareto-efficient production in the digital planned economy. Moreover, to compute the PVCG payments in a noisy economic environment, we propose the Report-Interpolation-Maximization (RIM) method. RIM facilitates the learning of the optimal procurement level and PVCG payments through iterative interactions with suppliers.

研究动机与目标

• 设计一种激励机制，公平补偿联邦学习中的数据所有者，同时保护数据隐私。
• 确保数据所有者真实报告其数据质量与私人成本，促进联邦学习联盟中的参与与可持续性。
• 在最小化不公平性的同时最大化联盟的社会剩余。
• 开发一种与主流联邦学习平台兼容的实用、可实现的机制。
• 通过设计激励相容且个体理性的机制，解决信息不对称问题。

提出的方法

• FVCG基于Vickrey-Clarke-Groves（VCG）机制，利用其激励相容与效率的特性。
• 该机制采用两部分支付结构：二元参与决策（η_i）与基于报告数据质量与成本类型的平滑支付调整（h_i + g_i）。
• 通过训练神经网络近似复杂的支付函数h_i与g_i，在公平性、个体理性与弱预算平衡约束下求解函数优化问题。
• 训练目标结合三项损失：不公平性（Loss1）、个体理性（Loss2）与弱预算平衡（Loss3），并通过超参数调优确保稳定性。
• 机制采用多层感知机（三个10维与一个50维隐藏层）实现，通过反向传播训练，120次迭代内收敛。
• 最终支付函数p(q, γ)由训练后的网络推导得出，确保在多样化数据质量与成本类型场景下具备最优经济特性。

实验结果

研究问题

• RQ1 如何设计联邦学习激励机制，以确保数据所有者真实报告其数据质量与私人成本？
• RQ2 何种支付结构可在数据共享联盟中最大化社会剩余并最小化不公平性？
• RQ3 能否通过神经网络近似复杂支付函数，在联邦学习平台中实际实现基于VCG的机制？
• RQ4 在真实的数据质量与成本分布下，个体理性、弱预算平衡与公平性等经济特性是否保持成立？
• RQ5 成本类型与数据质量对最终支付的影响如何？该机制是否符合经济直觉？

主要发现

• 训练损失在120次迭代后收敛，Loss3（弱预算平衡）趋近于零，表明在大多数情况下预算平衡得以满足，仅在极少数高成本场景（先验概率<10^-2）中略有偏差。
• Loss2（个体理性）在整个训练过程中保持为零，证实所有数据所有者均获得非负支付，因而具备个体理性。
• Loss1（不公平性）保持正值，证实机制通过设计避免线性支付结构，维持公平性，因为线性支付无法同时满足IR与WBB。
• 数据所有者（p_0）的支付随数据质量（q_0）增加而上升，符合经济直觉：高质量数据应获得更高补偿。
• 对于高成本类型（γ_0），支付在某一阈值后急剧下降，体现两部分结构：高成本所有者被排除，但仍获得小额参与奖励。
• 支付调整项（h_i + g_i）平滑且对数据质量敏感，但对成本类型相对不敏感，因在实验设置中成本类型未被纳入不公平性函数。