[論文レビュー] Game of Privacy: Towards Better Federated Platform Collaboration under Privacy Restriction

Chuhan Wu, Fangzhao Wu+5 more|arXiv (Cornell University)|Feb 10, 2022

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本稿では、プライバシー制約下における垂直フェデレーテッドラーニングにおける相互協力のためのゲーム理論的フレームワーク、FedGameを提案する。プラットフォームは、'預け入れ'データを用いて他プラットフォームのデータ価値を推定し、勾配ベースのポリシー最適化による交渉を通じて、限られたデータ予算を戦略的に割り当てることで、中央集権的信頼を必要とせずに、モデル性能を最大化する。これにより、中央集権的信頼を必要とせずに、多様なプラットフォーム間での有効な協力が可能になる。

ABSTRACT

Vertical federated learning (VFL) aims to train models from cross-silo data with different feature spaces stored on different platforms. Existing VFL methods usually assume all data on each platform can be used for model training. However, due to the intrinsic privacy risks of federated learning, the total amount of involved data may be constrained. In addition, existing VFL studies usually assume only one platform has task labels and can benefit from the collaboration, making it difficult to attract other platforms to join in the collaborative learning. In this paper, we study the platform collaboration problem in VFL under privacy constraint. We propose to incent different platforms through a reciprocal collaboration, where all platforms can exploit multi-platform information in the VFL framework to benefit their own tasks. With limited privacy budgets, each platform needs to wisely allocate its data quotas for collaboration with other platforms. Thereby, they naturally form a multi-party game. There are two core problems in this game, i.e., how to appraise other platforms' data value to compute game rewards and how to optimize policies to solve the game. To evaluate the contributions of other platforms' data, each platform offers a small amount of "deposit" data to participate in the VFL. We propose a performance estimation method to predict the expected model performance when involving different amount combinations of inter-platform data. To solve the game, we propose a platform negotiation method that simulates the bargaining among platforms and locally optimizes their policies via gradient descent. Extensive experiments on two real-world datasets show that our approach can effectively facilitate the collaborative exploitation of multi-platform data in VFL under privacy restrictions.

研究の動機と目的

• 垂直フェデレーテッドラーニング（VFL）において、従来はラベル保有プラットフォームのみが利益を享受するというインcentiveの欠如に対処すること。
• プライバシー予算制約下でのプラットフォーム協力を、相互データ共有を特徴とするマルチプレイヤーゲームとしてモデル化すること。
• 各プラットフォームが限られたデータ予算を戦略的に割り当て、個々のモデルパフォーマンス向上を最大化できることを実現すること。
• 中央機関に依存しない信頼性のない分散型メカニズムを設計し、利益配分に中央機関を必要としないこと。
• 現実のプライバシー制限下で、クロスプラットフォームのデータ価値を推定し、協力ポリシーを最適化するスケーラブルな手法を開発すること。

提案手法

• 各プラットフォームは、他プラットフォームとのVFL訓練に参加するために、自身のデータの小さな「預け入れ」を提供する。これにより、完全なデータ共有なしにパフォーマンス推定が可能になる。
• 多変量回帰モデルを用いて、異なる量の他プラットフォームの預け入れデータに基づく予想されるモデルパフォーマンス向上を推定する。
• プラットフォームは勾配降下を用いてポリシー最適化を行う交渉プロセスを通じて、現実の交渉をシミュレートする。
• ゲーム解法フレームワークは、パフォーマンス推定を用いて報酬を計算し、ナッシュ均衡に向けたポリシー更新をガイドする。
• 協力ポリシーは推定された利益に基づきローカルに最適化され、分散型でインcentiveが整合した意思決定が可能になる。
• 最終的なモデルは、ポリシーが収束した後に訓練され、プラットフォーム間でプライバシー制約下のデータを効果的に活用することを保証する。

実験結果

リサーチクエスチョン

• RQ1 ラベル保有プラットフォームのみが利益を享受する従来のVFLにおいて、プラットフォームがデータ寄与を示すインcentiveはどのように提供できるか？
• RQ2 完全なデータ共有なしに、プライバシー制約下で他プラットフォームのデータ価値を正確に推定する方法は何か？
• RQ3 限られたデータ予算を持つ複数のプラットフォーム間で、安定的かつ効果的な協力を実現する交渉メカニズムは何か？
• RQ4 預け入れデータサイズの選択が、パフォーマンス推定の正確さと最終的なモデルパフォーマンスに与える影響は何か？
• RQ5 相互VFL協力において、データ寄与とプライバシー予算使用の最適なバランスは何か？

主な発見

• FedGameは、誰もデータを寄与しないという囚人のジレンマを回避し、すべてのプラットフォームが協力から利益を得ることを可能にする。
• AdultおよびCTRデータセットにおいて、プラットフォームは、補完的特徴が最も価値のある相手（例：第1プラットフォームが第3プラットフォームと優先的に協力）にデータを戦略的に割り当てている。
• 交渉パラメータγを2.5に設定した場合、協力と競争のバランスが最適化され、平均的なモデルパフォーマンスが最良となる。
• 全データの5％を預け入れデータとして使用すると、推定の正確さとプライバシー予算消費のトレードオフにおいて最良のバランスが得られる。
• 非常に小さな預け入れセットではデータが不十分なためパフォーマンス予測誤差が大きく、大規模な預け入れではプライバシー予算の過剰使用によりパフォーマンスが低下する。
• プラットフォーム交渉メカニズムは、貪欲な行動を効果的に回避し、すべてのプラットフォームでバランスの取れた相互に利益となる協力を維持している。