[論文レビュー] Incentivizing Data Contribution in Cross-Silo Federated Learning

Chao Huang, Ke, Shuqi+3 more|arXiv (Cornell University)|Mar 8, 2022

Privacy-Preserving Technologies in Data被引用数 7

ひとこと要約

本稿は、プライバシー懸念に起因するフリーライダー問題に対処するため、データ貢献度に応じた報酬配分を組み合わせた利益配分インcentiveフレームワークを提案する。ゲーム理論的モデルを用いて、LOO（leave-one-out）やシャープレー値といったメカニズムが、高品質なデータ共有を効果的にインセンティブ化できることを示しており、特にLOOは均衡状態で最高のグローバルモデル精度を達成する。

ABSTRACT

In cross-silo federated learning, clients (e.g., organizations) train a shared global model using local data. However, due to privacy concerns, the clients may not contribute enough data points during training. To address this issue, we propose a general incentive framework where the profit/benefit obtained from the global model can be appropriately allocated to clients to incentivize data contribution. We formulate the clients' interactions as a data contribution game and study its equilibrium. We characterize conditions for an equilibrium to exist, and prove that each client's equilibrium data contribution increases in its data quality and decreases in the privacy sensitivity. We further conduct experiments using CIFAR-10 and show that the results are consistent with the analysis. Moreover, we show that practical allocation mechanisms such as linearly proportional, leave-one-out, and Shapley-value incentivize more data contribution from clients with higher-quality data, in which leave-one-out tends to achieve the highest global model accuracy at equilibrium.

研究の動機と目的

• プライバシー懸念に起因するデータの抑留によるフリーライダー問題を解決すること。
• クライアントのデータ貢献度に基づいてグローバルモデルの利益を配分する一般的なインcentiveフレームワークを設計すること。
• クライアントの非同一性（データ品質、データ容量、プライバシー感受性）が戦略的データ貢献意思決定に与える影響を分析すること。
• 実用的な利益配分メカニズム（例：LOO、シャープレー値、線形比例）が高品質なデータ貢献をどの程度促進できるかを評価すること。
• データ貢献ゲームにおける均衡の存在条件を理論的に確立し、均衡行動の特徴を同定すること。

提案手法

• クライアント間の相互作用を、プライベートなユーティリティを最大化するために戦略的にデータ貢献水準を決定する非協力的データ貢献ゲームとして定式化する。
• グローバルモデルのパフォーマンスを、データ品質と貢献度の関数としてモデル化し、プライバシー感受性が追加でのデータ貢献の限界的利益を低下させることを考慮する。
• トレーニング後の利益を、モデルパフォーマンス指標に基づいて導出される貢献インデックスに応じて配分する利益配分メカニズムを導入する。
• LOO（leave-one-out）およびシャープレー値法を用いて貢献インデックスを計算し、公平性と戦略的ロバスト性を確保する。
• やや弱い条件下で、ゲームのナッシュ均衡を計算するためのベストリスポンスアルゴリズムを提案する。
• CIFAR-10を用いた数値実験により理論的知見を検証し、異なるメカニズムおよびクライアントの非同一性におけるグローバルモデル精度を測定する。

実験結果

リサーチクエスチョン

• RQ1 プライバシー懸念が存在する中で、クロスシロ分散学習におけるクライアントが十分なデータを貢献するようにするためには、利益配分をどのように構造化すべきか？
• RQ2 非同一なクライアント間のデータ貢献ゲームにおいて、ナッシュ均衡が存在するための条件は何か？
• RQ3 データ品質、データ容量、プライバシー感受性は、均衡状態でのデータ貢献水準にどのように影響を与えるか？
• RQ4 線形比例（LP）、LOO、シャープレー値（SV）のうち、どの利益配分メカニズムが高品質なデータ貢献を最も効果的にインセンティブ化するか？
• RQ5 異なるメカニズムが、均衡状態における最終的なグローバルモデル精度に与える影響は何か？

主な発見

• やや弱い条件下で、データ貢献ゲームに均衡が存在し、各クライアントの均衡状態でのデータ貢献量は、データ品質およびデータ容量が高くなるほど増加するが、プライバシー感受性が高くなると減少する。
• LOO（leave-one-out）メカニズムは、常に最高の合計データ貢献量を誘発し、均衡状態で最も高いグローバルモデル精度を達成しており、等割り、線形比例、シャープレー値メカニズムを上回る。
• 線形比例（LP）およびシャープレー値（SV）メカニズムは、高品質なデータを持つクライアントの貢献を促進するが、LOOほど高いグローバルパフォーマンスには達しない。
• クライアントのデータ品質が同一の場合、LOOは貢献の不均衡（少数の高品質クライアントが大部分を占める）を引き起こすが、LPおよびSVはよりバランスの取れた貢献を生み出す。
• ラベルノイズの増加およびプライバシー感受性の上昇に伴い、グローバルモデル精度は低下する。これは、両要因がデータ貢献を減少させるためである。
• LOOは、データ重複の検出および抑止に最も効果的である。重複データはモデルパフォーマンスにほとんど寄与しないため、利益配分も低くなる。