[論文レビュー] Private and Robust Contribution Evaluation in Federated Learning

Delio Jaramillo Velez, Biczok, Gergely+3 more|arXiv (Cornell University)|Feb 25, 2026

Privacy-Preserving Technologies in Data被引用数 0

ひとこと要約

この論文は、クロスサイロ連合学習におけるクライアントの寄与を private かつ robust に評価するための、Fair-Private (FP) と Everybody-Else (EE) の二つの SA 互換の限界差分寄与スコアを導入し、公平性、プライバシー、操作耐性に対処します。

ABSTRACT

Cross-silo federated learning allows multiple organizations to collaboratively train machine learning models without sharing raw data, but client updates can still leak sensitive information through inference attacks. Secure aggregation protects privacy by hiding individual updates, yet it complicates contribution evaluation, which is critical for fair rewards and detecting low-quality or malicious participants. Existing marginal-contribution methods, such as the Shapley value, are incompatible with secure aggregation, and practical alternatives, such as Leave-One-Out, are crude and rely on self-evaluation. We introduce two marginal-difference contribution scores compatible with secure aggregation. Fair-Private satisfies standard fairness axioms, while Everybody-Else eliminates self-evaluation and provides resistance to manipulation, addressing a largely overlooked vulnerability. We provide theoretical guarantees for fairness, privacy, robustness, and computational efficiency, and evaluate our methods on multiple medical image datasets and CIFAR10 in cross-silo settings. Our scores consistently outperform existing baselines, better approximate Shapley-induced client rankings, and improve downstream model performance as well as misbehavior detection. These results demonstrate that fairness, privacy, robustness, and practical utility can be achieved jointly in federated contribution evaluation, offering a principled solution for real-world cross-silo deployments.

研究の動機と目的

• Secure aggregation が個別アップデートを隠しても、クロスサイロFL における寄与評価（CE）を公正かつプライベートに動機づける。
• SA の下で公正性、プライバシー、頑健性の特性を満たす CE スコアを提案する。
• 医用画像データセットと CIFAR-10 での理論的保証と実証的性能を分析する。

提案手法

• FAIr-Private (FP) を、Leave-One-Out と Include-One-In の限界差分を正規化して効率性を担保するSA互換 CE スコアとして定義する。
• Everybody-Else (EE) を、自己評価を避け、操作耐性を高めるためにクライアント間評価を用いるSA互換 CE スコアとして定義する。
• FP が効率性、ヌルプレーヤー、対称性、SA 互換性を満たすことを証明し、EE が効率性、対称性、SA 互換性、操作耐性を満たすことを示す（ただしヌルプレーヤーは満たさない）。
• SA を保存する評価フレームワークを提供し、各クライアントが SA の下でアクセス可能なコアリション（M0, M, M0+Ui, M−Ui）からスコアを計算できるようにする。
• MR-SV および COS と比較し、計算複雑性（O(N)）とプライバシー影響を分析する。

実験結果

リサーチクエスチョン

• RQ1 セキュア集計を用いたフェデレーティッドラーニングにおける寄与評価を、個別アップデートを露呈させることなく、公正かつプライベートにするにはどうすればよいか。
• RQ2 自己中心的な行動に頑健でありつつ、主要な公正性特性を保つSA互換 CE スコアを設計できるか。
• RQ3 提案されたスコアは、クロスサイロ設定でShapley値ベースのランキングにどれだけ近いか。
• RQ4 FP と EE のCLFL における非IID医用画像データセットと CIFAR-10 に対する実測性能はどうか。

主な発見

• FP と EE は LO O（Leave-One-Out）を一貫して上回り、データセット全体で Shapley 誘導ランキング（MR-SV）をより良く近似する。
• FP と EE は、SA 互換性を保ちながら、ground-truth の Shapley 基づくランキングと高い相関を示し、優れた整合性を示す。
• EE は自己評価を避けることで操作耐性を提供し、自己中心的クライアントによるスコア水増しのインセンティブを低減する。
• FP と EE は計算効率を維持し、線形時間計算量 O(N) を満たす。
• 実験結果は、ベースラインと比較して下流モデルの性能向上と不正挙動検出の改善を示す。
• FP と EE は評価データセット全体で SA 互換CE 手法としてコサイン類似度（COS）より優れている。