[論文レビュー] GTG-Shapley: Efficient and Accurate Participant Contribution Evaluation in Federated Learning

Zelei Liu, Yuanyuan Chen+3 more|arXiv (Cornell University)|Sep 5, 2021

Privacy-Preserving Technologies in Data被引用数 9

ひとこと要約

GTG-Shapley は、再訓練を伴わずにフェデレーテッドラーニングにおける参加者貢献を評価するための効率的で正確な手法を提案する。勾配更新を用いて部分モデルを再構築し、ラウンド内およびラウンド間の切り捨てを組み合わせたガイド付きモンテカルロサンプリングを採用することで、非 i.i.d. データ分布下でも高い正確性を維持しつつ、計算量を著しく削減する。

ABSTRACT

Federated Learning (FL) bridges the gap between collaborative machine learning and preserving data privacy. To sustain the long-term operation of an FL ecosystem, it is important to attract high quality data owners with appropriate incentive schemes. As an important building block of such incentive schemes, it is essential to fairly evaluate participants' contribution to the performance of the final FL model without exposing their private data. Shapley Value (SV)-based techniques have been widely adopted to provide fair evaluation of FL participant contributions. However, existing approaches incur significant computation costs, making them difficult to apply in practice. In this paper, we propose the Guided Truncation Gradient Shapley (GTG-Shapley) approach to address this challenge. It reconstructs FL models from gradient updates for SV calculation instead of repeatedly training with different combinations of FL participants. In addition, we design a guided Monte Carlo sampling approach combined with within-round and between-round truncation to further reduce the number of model reconstructions and evaluations required, through extensive experiments under diverse realistic data distribution settings. The results demonstrate that GTG-Shapley can closely approximate actual Shapley values, while significantly increasing computational efficiency compared to the state of the art, especially under non-i.i.d. settings.

研究の動機と目的

• フェデレーテッドラーニングにおける既存のシャープレー値ベースの貢献評価手法の高い計算コストを解消すること。
• ローカルデータを露呈せずに公平でプライバシー保護型の参加者貢献評価を可能にすること。
• 正確なシャープレー値近似に必要なモデル再構築および評価回数を削減すること。
• モンテカルロ推定におけるランダム順列サンプリングのバイアスを排除するためにガイド付きサンプリングを導入すること。
• ラウンド内およびラウンド間の切り捨て戦略を用いて、同時に効率性と正確性を向上させること。

提案手法

• スクラッチからの再訓練を避けるために、勾配更新からフェデレーテッドラーニングの部分モデルを再構築する。
• 各参加者が重要な位置を占める順列を優先するガイド付きモンテカルロサンプリング戦略を採用し、推定バイアスを低減する。
• 1ラウンドのサンプリング中に不要な部分モデル評価をスキップするためのラウンド内切り捨てを適用する。
• 複数ラウンドにわたるモデルの有効性向上が飽和した場合に早期終了するためのラウンド間切り捨てを導入する。
• 事前に評価済みのモデル有効性を参考にし、部分モデル再構築および評価処理を機会的にスキップする。
• 勾配ベースのモデル再構築と切り捨て技術を組み合わせることで、高い効率性と正確性を達成する。

実験結果

リサーチクエスチョン

• RQ1 勾配ベースの部分モデル再構築は、フェデレーテッドラーニングにおけるシャープレー値推定の計算コストを著しく低減できるか？
• RQ2 ランダム順列サンプリングと比較して、ガイド付きサンプリングはバイアス低減および正確性向上にどの程度効果的か？
• RQ3 ラウンド内およびラウンド間の切り捨て技術は、正確性を損なわずにどの程度効率性を向上させるか？
• RQ4 非 i.i.d. データ分布下（実世界の FL 環境で一般的に見られる）で、GTG-Shapley はどの程度の性能を示すか？
• RQ5 提案手法は、正確性と効率性を同時に高め、最先端の手法を上回る性能を達成できるか？

主な発見

• GTG-Shapley は、すべてのテスト設定で、地面真値シャープレー値に非常に近い近似を達成しており、すべての設定で最先端手法を上回る一貫した高い推定正確性を示す。
• 特に非 i.i.d. データ分布下では、既存のアプローチと比較して計算時間のオーダーが著しく低減される。
• ラウンド間切り捨ては平均で17％の効率向上をもたらし、一部の設定では最大3倍速くなる。正確性に劣化は認められない。
• ガイド付きサンプリングは推定正確性を顕著に向上させ、ほとんどのケースでランダムサンプリングと比較してオーダーが桁違いに優れている。
• ラウンド内切り捨てにより、1ラウンド内の不要な評価が削減され、全体の効率性向上に寄与する。
• GTG-Shapley は、すべてのベースラインを効率性および正確性の両面で上回り、とりわけ公平性と正確性が最も重要な非 i.i.d. シナリオで顕著な優位性を示す。