[論文レビュー] Incentive Mechanism for Privacy-Preserving Federated Learning.

Shuyuan Zheng, Yang Cao+1 more|arXiv (Cornell University)|Jun 8, 2021

Privacy-Preserving Technologies in Data参考文献 33被引用数 4

ひとこと要約

本稿では、ローカル微分プライバシー（LDP）を用いてデータ所有者のプライバシー損失を定量化し、パーソナライズドペイメントを提供することで、フェデレーテッドラーニングにおけるインcentiveメカニズムとプライバシー保護を統合的に解決する新規フレームワーク、FL-Marketを提案する。深層学習を活用したオークションメカニズムにより、ノイズの少ない勾配を提供する参加者をインcentivizeし、より高いモデル効用とカスタマイズされたプライバシー保護を実現する。

ABSTRACT

Federated learning (FL) is an emerging paradigm for machine learning, in which data owners can collaboratively train a model by sharing gradients instead of their raw data. Two fundamental research problems in FL are incentive mechanism and privacy protection. The former focuses on how to incentivize data owners to participate in FL. The latter studies how to protect data owners' privacy while maintaining high utility of trained models. However, incentive mechanism and privacy protection in FL have been studied separately and no work solves both problems at the same time. In this work, we address the two problems simultaneously by an FL-Market that incentivizes data owners' participation by providing appropriate payments and privacy protection. FL-Market enables data owners to obtain compensation according to their privacy loss quantified by local differential privacy (LDP). Our insight is that, by meeting data owners' personalized privacy preferences and providing appropriate payments, we can (1) incentivize privacy risk-tolerant data owners to set larger privacy parameters (i.e., gradients with less noise) and (2) provide preferred privacy protection for privacy risk-averse data owners. To achieve this, we design a personalized LDP-based FL framework with a deep learning-empowered auction mechanism for incentivizing trading gradients with less noise and optimal aggregation mechanisms for model updates. Our experiments verify the effectiveness of the proposed framework and mechanisms.

研究の動機と目的

• 既存のフェデレーテッドラーニングシステムがインcentiveメカニズムとプライバシー保護を別個の問題として扱うというギャップを埋めること。
• データ所有者の参加を同時にインcentivizeし、個々のリスク志向に応じたプライバシー保護を実現する統合的フレームワークを設計すること。
• ローカル微分プライバシー（LDP）を用いてプライバシー損失を定量化し、その損失に比例した報酬を受け取ることを可能にする。
• 参加者が提供する勾配の品質（ノイズレベル）に基づき、最適な報酬を決定するオークションメカニズムを開発すること。
• プライバシー水準と報酬戦略をトレーニングプロセスに統合し、最適なモデルアグリゲーションを実現すること。

提案手法

• データ所有者が勾配を提供することで報酬を得る市場ベースのフレームワーク、FL-Marketを導入する。
• 個々のデータ所有者のプライバシーリスクを定量化・管理するためにローカル微分プライバシー（LDP）を採用し、パーソナライズドプライバシーパラメータを可能にする。
• 参加者が提出する勾配の品質（ノイズレベル）に基づき、最適な報酬を決定する深層学習を活用したオークションメカニズムを設計する。
• プライバシー水準と寄与品質の両方に応じてモデル更新を重み付けする最適アグリゲーションメカニズムを用い、グローバルモデルの効用を向上させる。
• プライバシー志向を反映したパーソナライズドプライバシー設定をトレーニングループに統合し、プライバシーを重視するユーザーがより厳しいLDPパラメータを設定しても報酬を受け取れるようにする。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングにおけるインcentiveメカニズムを、個々のデータ所有者のプライバシー志向に応じて設計するにはどうすればよいか？
• RQ2 LDPによるパーソナライズドプライバシー損失の定量化が、モデル効用および参加者参加に与える影響は何か？
• RQ3 オークションベースの報酬制度は、高品質（ノイズの少ない）な勾配を提供するようにデータ所有者を効果的にインcentivizeできるか？
• RQ4 パーソナライズドプライバシーや報酬メカニズムの統合が、フェデレーテッドモデルの全体的なパフォーマンスおよび収束特性に与える影響は何か？
• RQ5 フェデレーテッドラーニング環境において、プライバシー保護、モデル効用、参加者インcentiveの間にはどのようなトレードオフが存在するか？

主な発見

• 提案されたFL-Marketフレームワークは、ローカル微分プライバシー（LDP）で測定されたプライバシー損失に応じた報酬を提供することで、データ所有者の参加を成功裏にインcentivizeした。
• プライバシーリスクに余裕を持つ参加者は、高い報酬を得られるため、ノイズの少ない勾配を提供する傾向が強く、結果としてモデル効用が向上した。
• プライバシーリスクを避けたい参加者は、より厳しいLDPパラメータにより保護され、データの安全性が確保されたまま参加が可能となった。
• 深層学習を活用したオークションメカニズムは、高品質な勾配寄与を的確に同定・報酬化し、収束速度の向上とモデル精度の向上を実現した。
• 最適アグリゲーションメカニズムは、プライバシー水準とデータ品質の両方に応じて更新を重み付けすることで、グローバルモデルの効用を向上させた。