[論文レビュー] FedVal: Different good or different bad in federated learning

Viktor Valadi, Xinchi Qiu+3 more|arXiv (Cornell University)|Jun 6, 2023

Privacy-Preserving Technologies in Data被引用数 6

ひとこと要約

FedVal は、追加のクライントデータを必要とせず、ポisoning 攻撃に対して耐性を高めるとともに、人種的・文化的背景にかかわらず公平性を向上させる、新しいフェデレーテッドラーニング集約手法である。サーバー側の検証データセットを用いて、複数の次元にわたるパフォーマンスに基づき、クライントの更新を動的に重み付けすることで、80% の悪意あるクライントが存在する状況でも最先端の結果を達成し、代表されないグループの再現率を 19% から 50% まで向上させた。

ABSTRACT

Federated learning (FL) systems are susceptible to attacks from malicious actors who might attempt to corrupt the training model through various poisoning attacks. FL also poses new challenges in addressing group bias, such as ensuring fair performance for different demographic groups. Traditional methods used to address such biases require centralized access to the data, which FL systems do not have. In this paper, we present a novel approach FedVal for both robustness and fairness that does not require any additional information from clients that could raise privacy concerns and consequently compromise the integrity of the FL system. To this end, we propose an innovative score function based on a server-side validation method that assesses client updates and determines the optimal aggregation balance between locally-trained models. Our research shows that this approach not only provides solid protection against poisoning attacks but can also be used to reduce group bias and subsequently promote fairness while maintaining the system's capability for differential privacy. Extensive experiments on the CIFAR-10, FEMNIST, and PUMS ACSIncome datasets in different configurations demonstrate the effectiveness of our method, resulting in state-of-the-art performances. We have proven robustness in situations where 80% of participating clients are malicious. Additionally, we have shown a significant increase in accuracy for underrepresented labels from 32% to 53%, and increase in recall rate for underrepresented features from 19% to 50%.

研究の動機と目的

• プライバシーを損なわず、モデルおよびデータのポisoning 攻撃に対する耐性とフェアネスの両方の課題に取り組む。
• 中央集権的なデータアクセスを必要とする既存手法の限界や、クライントレベルでの悪意ある行動が高水準に達する状況で失敗する問題を克服する。
• ノルムクリッピングやノイズ注入といった微分プライバシー技術と互換性を持つ、プライバシーを守る集約メカニズムを設計する。
• 特にフェアネスが重要な応用分野において、非 IID および偏ったデータ分布下での代表されないグループのモデル性能を向上させる。
• クライントの貢献度を動的に評価できる、スケーラブルで適応可能な集約戦略を構築する。この戦略は、最小限のサーバー側検証データに依存する。

提案手法

• サーバー側の検証に基づくスコア関数を導入し、精度や再現率といった複数のパフォーマンス次元にわたってクライントの更新を評価する。
• 各クライントの検証セット上でのパフォーマンスを、全クライントの平均パフォーマンスと比較することで、クライント固有の重みを計算する。
• 複数の次元でバランスの取れたパフォーマンスを示すクライントを優遇する動的集約ルールを用い、悪意あるまたは歪んだクライントの影響を低減する。
• 重み付き平均としての集約を定式化し、外れ値や汚染された更新の影響を最小限に抑えるために、正規化されたパフォーマンススコアから重みを導出する。
• スコア関数を、代表されないクラスの再現率といったフェアネス指標にも拡張し、集約段階でバイアス低減を可能にする。
• モデル更新の集約前にノルムクリッピングとノイズ注入を適用することで、微分プライバシーとの互換性を確保する。

Figure 1 : Illustration of FL in centralized setting: model parameters are sent back and forth between a server and clients.

実験結果

リサーチクエスチョン

• RQ1 サーバー側の検証メカニズムは、クライントの生データにアクセスせずに、大規模なポisoning 攻撃に対する耐性を向上させることができるか？
• RQ2 動的集約戦略は、非 IID フェデレーテッド環境下で、代表されないデモグラフィックグループのグループバイアスをどの程度低減し、フェアネスを向上させることができるか？
• RQ3 80% のクライントが悪意ある状況下で、FedVal はどの程度の性能を示すか？
• RQ4 ノイズ注入やノルムクリッピングといった微分プライバシー技術と組み合わせた場合、提案手法は高い性能を維持できるか？
• RQ5 さまざまなデータセットにおいて、FedAvg や FedProx、LFR、multi-Krum といった最先端の集約手法と比較して、FedVal は精度、耐性、フェアネスの観点でどの程度優れているか？

主な発見

• 80% のクライントが悪意ある状況ですら、FedVal は収束を達成した。これは、40% の悪意あるクライントで失敗する multi-Krum や LFR より顕著に優れた性能を示した。
• 20% の悪意あるクライントによるバックドア攻撃において、FedVal は安定したパフォーマンスを維持したが、multi-Krum のパフォーマンスは FedAvg よりも低下した。
• CIFAR-10 データセットでは、FedVal がデータ分布の偏りによって引き起こされるパフォーマンス劣化を効果的に緩和し、非 IID 環境下で他の手法を上回った。
• PUMS ACSIncome データセットでは、FedVal が代表されないグループの再現率を、FedAvg の 19% から 50% まで向上させ、顕著なフェアネスの向上を示した。
• FEMNIST データセットでは、FedVal が代表されないラベルの精度を 32% から 53% まで向上させ、マイノリティクラスにおける一般化性能の向上を示した。
• 本手法は微分プライバシー技術とも互換性を保ち、プライバシーの保証を維持しながら、耐性とフェアネスの両方を向上させた。

Figure 2 : Toy example of a federated learning situation with four clients being aggregated, two majority clients with skewed data, one client with information that is missing in the majority of clients, and one malicious client.