[論文レビュー] A Reputation Mechanism Is All You Need: Collaborative Fairness and Adversarial Robustness in Federated Learning

Xinyi Xu, Lingjuan Lyu|arXiv (Cornell University)|Nov 20, 2020

Privacy-Preserving Technologies in Data参考文献 44被引用数 39

ひとこと要約

本論文は Robust and Fair Federated Learning (RFFL) を紹介します。これは貢献度に応じて参加者に報酬を与え、敵対者を拒否する報酬ベースのフレームワークであり、追加の検証データなしに協調的な公正性と頑健性を実現します。

ABSTRACT

Federated learning (FL) is an emerging practical framework for effective and scalable machine learning among multiple participants, such as end users, organizations and companies. However, most existing FL or distributed learning frameworks have not well addressed two important issues together: collaborative fairness and adversarial robustness (e.g. free-riders and malicious participants). In conventional FL, all participants receive the global model (equal rewards), which might be unfair to the high-contributing participants. Furthermore, due to the lack of a safeguard mechanism, free-riders or malicious adversaries could game the system to access the global model for free or to sabotage it. In this paper, we propose a novel Robust and Fair Federated Learning (RFFL) framework to achieve collaborative fairness and adversarial robustness simultaneously via a reputation mechanism. RFFL maintains a reputation for each participant by examining their contributions via their uploaded gradients (using vector similarity) and thus identifies non-contributing or malicious participants to be removed. Our approach differentiates itself by not requiring any auxiliary/validation dataset. Extensive experiments on benchmark datasets show that RFFL can achieve high fairness and is very robust to different types of adversaries while achieving competitive predictive accuracy.

研究の動機と目的

• 参加者間で貢献が異なるフェデレーテッド学習において、協調的な公正性の必要性を喚起する。
• 低信頼度の参加者を除外しつつ、貢献を定量化して報酬を与える報酬ベースのメカニズムを提案する。
• 補助データセットを用いずに、フリーライダーや悪意ある参加者に対処する対向攻撃に対する頑健性を検討する。
• RFFL がベンチマークデータセット上で高い公正性と頑健性を、競争力のある予測精度とともに達成することを示す。

提案手法

• 貢献度 v を、単独のローカルテスト精度によって定義する。
• 報酬 φ を最終テスト精度によって定義し、公正性を Pearson 相関 ρp(v, φ) で測定する。
• 各参加者の reputation r_i(t) を導入し、アップロードされた勾配と集約勾配のコサイン類似度によって更新する。
• 信頼できる参加者に対して reputation 重み付け勾配集合を行い、爆発を防ぐために勾配を正規化する（ γ）。
• 情報交換を選択的に実装するため、quota_i を r_i(t) に比例させて勾配ダウンロードを制御する。
• 頑健性と公正性を担保するため、信頼度が閾値 β 未満の参加者を反復的に除外する。

実験結果

リサーチクエスチョン

• RQ1 信頼度メカニズムは、フェデレーテッド学習における実際の貢献と報酬を一致させ、協調的な公正性を達成できるか。
• RQ2 信頼度重み付けの集約は、ターゲット型/非ターゲット型汚染やフリーライダーに対する頑健性を、追加の検証データなしで改善するか。
• RQ3 異種データ設定下で、信頼度ダイナミクスと閾値設定が予測精度と公正性に与える影響は何か。
• RQ4 様々な攻撃シナリオ下で、RFFLは既存の公正性・頑健性のベースラインとどう比較されるか。

主な発見

• RFFL は、単独性能との Pearson 相関で測定される公正性が、複数のデータセットとスプリットにおいて他のベースラインより高い。
• 信頼度重み付け集約は、特に異種データ分割（例: POW および CLA）で予測性能を向上させる。
• RFFL は非ターゲット型汚染とフリーライダーに対して堅牢であり、ターゲット型汚染の影響を軽減できるが、いくつかの設定ではターゲット攻撃者を完全に排除するのは困難である。
• 敵対者とフリーライダーはしばしばその信頼度が β 未満となり、次ラウンドから除外されるため長期的な頑健性が高まる。
• CFFL はいくつかの設定で RFFL を上回ることがあるが、補助的な検証データセットを必要とする。RFFL は追加データなしで競争力のある公正性を達成する。