[論文レビュー] Fairness-aware Agnostic Federated Learning

Wei Du, Depeng Xu+2 more|arXiv (Cornell University)|Oct 10, 2020

Privacy-Preserving Technologies in Data参考文献 36被引用数 7

ひとこと要約

本稿では、未知のテストデータ分布において高い精度と公平性を保証する、アグノスティックで公平性に配慮したフェデレーテッドラーニングフレームワークであるAgnosticFairを提案する。この手法は、損失関数および公平性制約の両方に、サンプル固有の重みを割り当てるカーネルリウェイティング関数を用いる。これにより、未知のテストデータ分布においても高い精度と公平性を達成できる。本手法はデータのシフトに強く、ローカルクライアントおよびグローバルなクライアントの両方で公平性を保証するが、生データを共有しない。

ABSTRACT

Federated learning is an emerging framework that builds centralized machine learning models with training data distributed across multiple devices. Most of the previous works about federated learning focus on the privacy protection and communication cost reduction. However, how to achieve fairness in federated learning is under-explored and challenging especially when testing data distribution is different from training distribution or even unknown. Introducing simple fairness constraints on the centralized model cannot achieve model fairness on unknown testing data. In this paper, we develop a fairness-aware agnostic federated learning framework (AgnosticFair) to deal with the challenge of unknown testing distribution. We use kernel reweighing functions to assign a reweighing value on each training sample in both loss function and fairness constraint. Therefore, the centralized model built from AgnosticFair can achieve high accuracy and fairness guarantee on unknown testing data. Moreover, the built model can be directly applied to local sites as it guarantees fairness on local data distributions. To our best knowledge, this is the first work to achieve fairness in federated learning. Experimental results on two real datasets demonstrate the effectiveness in terms of both utility and fairness under data shift scenarios.

研究の動機と目的

• テストデータの分布が未知である、あるいはトレーニングデータとは異なる状況において、フェデレーテッドラーニングにおける公平性を達成する課題に対処すること。
• 未知のテストデータにおいても高いモデル精度を維持しながら、公平性を保証するフレームワークを開発すること。
• グローバルな分布だけでなく、ローカルクライアントのデータ分布がグローバルトレーニングデータとは異なる場合でも、公平性を保証すること。
• クライアントとサーバー間でパラメータと係数のみを交換することで、効率的な最適化を可能にし、データプライバシーを保護すること。
• 分布シフト下で、アグノスティックフェデレーテッドラーニングに公平性制約を形式的に統合した最初の研究となること。

提案手法

• 学習者と、最悪のテスト分布を生成する敵対者との間の2人零和ミニマックスゲームとして、公平性に配慮したアグノスティックフェデレーテッドラーニングを定式化する。
• カーネルリウェイティング関数を用いて、損失関数および公平性制約をパrameter化し、分布に依存しない最適化を可能にする。
• 各トレーニングサンプルに個別のリウェイティング値を割り当て、モデルパラメータと同時に最適化することで、精度と公平性のバランスを図る。
• クライアントとサーバー間でモデルパラメータとリウェイティング係数のみを交換する確率的最適化アルゴリズムを採用し、データプライバシーを確保する。
• リウェイティングされたサンプルを用いて、公平性制約（例：デモグラフィックパラティーション）をアグノスティック損失に統合し、未知の分布下でも公平性を保証する。
• グローバルモデルが任意のローカルサイトにデプロイ可能であることを保証する。これは、ローカルデータ分布においても公平性が保証されるからである。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングモデルは、トレーニングデータとは異なる未知のテストデータ分布においても公平性を達成できるか？
• RQ2 データシフト下で、公平性をグローバルに保つだけでなく、個々のクライアントのデータ分布に対しても保証できるか？
• RQ3 カーネルリウェイティング関数は、分布シフトの影響下でも、モデルの精度と公平性を効果的にバランスできるか？
• RQ4 クライアント数が増加する状況でも、提案フレームワークは高い実用性を維持しながら公平性を保証できるか？
• RQ5 非IIDおよびIIDの両データ設定下で、標準フェデレーテッドラーニングおよび公平性に配慮したベースラインと比較して、本フレームワークはどのように性能を発揮するか？

主な発見

• AgnosticFairは、データシフト下でも、特に非IID設定において、ベースライン手法（AgnosticFair-b や [20]）よりも高い精度と公平性を達成する。
• AdultおよびDutchデータセットにおいて、AgnosticFairはテストデータの分布が未知であっても高い精度（例：Adultでは0.8111）を維持し、[20]の0.7785を上回る。
• AgnosticFairでトレーニングされたグローバルモデルは、ローカルクライアントのデータ分布がグローバルトレーニングデータとは異なる場合でも、すべてのクライアントに対して公平性を保証する。
• AgnosticFairの性能は、クライアント数の変動に対して安定しており、LocalFairとは異なり、クライアント数の増加に伴い著しく劣化しない。
• IID設定下では、AgnosticFair-aは標準フェデレーテッドラーニング（例：Adultでは0.8130 対 0.8111）と同等の精度を達成し、理論的同等性（Empirical Risk Minimization）を裏付ける。
• 本フレームワークは、高い実用性を維持しながら公平性を効果的に保証し、グローバルおよびローカル両設定で分布シフトに対して高いロバスト性を示した。