[论文解读] Game of Privacy: Towards Better Federated Platform Collaboration under Privacy Restriction

Chuhan Wu, Fangzhao Wu+5 more|arXiv (Cornell University)|Feb 10, 2022

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出 FedGame，一种面向垂直联邦学习中隐私约束下互惠协作的博弈论框架。各平台通过估算跨平台数据价值并基于梯度的策略优化进行协商，战略性地分配有限的数据配额以最大化自身模型性能，从而在无需中心化信任的前提下实现有效的多平台协作。

ABSTRACT

Vertical federated learning (VFL) aims to train models from cross-silo data with different feature spaces stored on different platforms. Existing VFL methods usually assume all data on each platform can be used for model training. However, due to the intrinsic privacy risks of federated learning, the total amount of involved data may be constrained. In addition, existing VFL studies usually assume only one platform has task labels and can benefit from the collaboration, making it difficult to attract other platforms to join in the collaborative learning. In this paper, we study the platform collaboration problem in VFL under privacy constraint. We propose to incent different platforms through a reciprocal collaboration, where all platforms can exploit multi-platform information in the VFL framework to benefit their own tasks. With limited privacy budgets, each platform needs to wisely allocate its data quotas for collaboration with other platforms. Thereby, they naturally form a multi-party game. There are two core problems in this game, i.e., how to appraise other platforms' data value to compute game rewards and how to optimize policies to solve the game. To evaluate the contributions of other platforms' data, each platform offers a small amount of "deposit" data to participate in the VFL. We propose a performance estimation method to predict the expected model performance when involving different amount combinations of inter-platform data. To solve the game, we propose a platform negotiation method that simulates the bargaining among platforms and locally optimizes their policies via gradient descent. Extensive experiments on two real-world datasets show that our approach can effectively facilitate the collaborative exploitation of multi-platform data in VFL under privacy restrictions.

研究动机与目标

• 解决传统垂直联邦学习（VFL）中仅标签持有平台受益、缺乏激励的问题。
• 将平台在隐私预算约束下的协作建模为具有互惠数据共享的多方博弈。
• 使平台能够战略性地分配有限的数据配额，以最大化个体模型性能增益。
• 设计一种无需依赖中心化权威机构进行收益分配的无信任、去中心化机制。
• 开发一种可扩展的方法，用于在现实隐私限制下估计跨平台数据价值并优化协作策略。

提出的方法

• 各平台提供其数据的一小部分作为‘存款’以参与跨平台 VFL 训练，从而在不完全共享数据的前提下实现性能估计。
• 采用多变量回归模型，基于不同数量的跨平台存款数据，估计预期的模型性能增益。
• 平台通过模拟现实世界的讨价还价过程，利用梯度下降优化协作策略。
• 博弈求解框架利用性能估计计算奖励，并引导策略更新向纳什均衡收敛。
• 协作策略基于估计的增益在本地进行优化，实现去中心化、激励对齐的决策。
• 在策略收敛后训练最终模型，确保在各平台隐私约束下数据的有效利用。

实验结果

研究问题

• RQ1 在传统上仅标签持有平台受益的垂直联邦学习中，如何激励平台贡献数据？
• RQ2 在不完全共享数据的前提下，如何在隐私约束下准确估计跨平台数据价值？
• RQ3 何种协商机制可实现多个数据预算有限的平台之间稳定、高效的协作？
• RQ4 存款数据大小的选择如何影响性能估计的准确性及最终模型性能？
• RQ5 在互惠联邦学习协作中，数据贡献与隐私预算使用之间应如何实现最优平衡？

主要发现

• FedGame 使所有平台均能从协作中受益，避免了无人贡献数据的‘囚徒困境’。
• 在 Adult 和 CTR 数据集上，平台战略性地将数据分配给具有最互补特征的平台，例如第一平台优先与第三平台合作。
• 当协商参数 γ 设为 2.5 时，该方法实现最优平均模型性能，平衡了合作与竞争。
• 使用总量 5% 的数据作为存款数据，在估计准确度与隐私预算消耗之间达到最佳权衡。
• 当存款集合过小时，由于数据不足导致性能预测误差较高；当存款过大时，由于隐私预算过度使用导致性能下降。
• 平台协商机制成功避免了贪婪行为，确保所有平台间保持均衡且互惠的协作。