[論文レビュー] Bias-Free FedGAN: A Federated Approach to Generate Bias-Free Datasets

Vaikkunth Mugunthan, Vignesh Gokul+2 more|arXiv (Cornell University)|Mar 17, 2021

Generative Adversarial Networks and Image Synthesis参考文献 16被引用数 7

ひとこと要約

本稿では、エージェンシーグループがクライアントモデルからメタデータを生成し、そのバランスの取れた合成データでグローバルモデルを再訓練することで、合成データ生成におけるバイアスを排除する、Bias-Free FedGANというフェデレーテッド GAN フレームワークを提案する。本手法は、非 i.i.d. データ分布下でもバイアスのない画像合成を達成し、通信効率は FedGAN と同等のままである。MNIST および FashionMNIST データセットを用いた検証で有効性が確認された。

ABSTRACT

Federated Generative Adversarial Network (FedGAN) is a communication-efficient approach to train a GAN across distributed clients without clients having to share their sensitive training data. In this paper, we experimentally show that FedGAN generates biased data points under non-independent-and-identically-distributed (non-iid) settings. Also, we propose Bias-Free FedGAN, an approach to generate bias-free synthetic datasets using FedGAN. Our approach generates metadata at the aggregator using the models received from clients and retrains the federated model to achieve bias-free results for image synthesis. Bias-Free FedGAN has the same communication cost as that of FedGAN. Experimental results on image datasets (MNIST and FashionMNIST) validate our claims.

研究の動機と目的

• 非 i.i.d. データ分布下におけるフェデレーテッド GAN におけるバイアスという重要な問題に取り組むこと。特に、マイノリティクラスのデータが生成出力において不足しやすい状況を想定する。
• クライアント間の非均質性を考慮しつつ、データプライバシーを保護しながらも通信効率の高い解決策を提供し、合成データ生成における公平性を実現すること。
• クライアントの生データにアクセスすることなく、クライアント生成器から導出されたメタデータを用いてグローバルモデルを再訓練することで、バイアスを軽減できることを示すこと。
• 提案手法の有効性を、実際の非 i.i.d. 環境下で標準的な画像ベンチマーク（MNIST および FashionMNIST）を用いて検証すること。
• フェデレーテッドラーニング環境におけるプライバシー保護型で公平な生成モデリングの基盤を構築すること。

提案手法

• フェデレーテッドトレーニングラウンド終了後に、エージェンシーがすべてのクライアントからローカル生成器モデルを収集する。
• エージェンシーが、各クライアントの生成器から 10,000 枚の画像をサンプリングすることで、バランスの取れたグローバルな合成データセット（メタデータ）を生成する。
• この集約されたメタデータ上で、グローバル生成器とディスクリミネーターを 100 エポックにわたり同時に再訓練することで、モデルを再キャリブレーションし、バイアスを低減する。
• 再訓練されたグローバルモデルは、次のフェデレーテッドトレーニングラウンドのためクライアントにブロードキャストされる。
• 本手法は、生データを送信しないでモデルの重みのみを交換するため、FedGAN と同等の通信効率を維持する。
• モデルアveraging とメタデータに基づく再訓練を組み合わせることで、フェデレーテッドアグリゲーション中に伝搬されるクラスの不均衡に対処する。

実験結果

リサーチクエスチョン

• RQ1 クライアントが非 i.i.d. データ分布を持つ場合、FedGAN はマイノリティクラスが不足しているにもかかわらず、バイアスの高い合成データを生成するのか？特にマイノリティクラスがクライアントデータに存在する場合に限る。
• RQ2 生クライアントデータを共有せず、クライアントレベルのトレーニングを変更せずとも、フェデレーテッド GAN フレームワークがバイアスのない合成画像を生成できるのか？
• RQ3 クライアント生成器から導出された合成メタデータ上でグローバルモデルを再訓練することで、最終出力におけるバイアスを効果的に低減できるのか？
• RQ4 提案手法によるバイアス軽減アプローチの通信コストは、標準的な FedGAN と比べてどの程度か？
• RQ5 非 i.i.d. 環境下で、提案手法の性能は、クラスカバレッジと画像品質の観点から FedGAN と比べてどの程度か？

主な発見

• 非 i.i.d. 環境下では FedGAN が極めてバイアスの高い出力を生成する。マイノリティクラスがクライアントデータに存在しても、主にマジョリティクラスの画像が生成され、マイノリティクラスの画像はほとんど生成されない。
• 1 つのクライアントがマイノリティクラス 0（MNIST）の 10,000 枚の画像を保持している一方で、他のクライアントがマジョリティクラス 2–9 の 10,000 枚の画像を保持している場合、FedGAN は完全にマジョリティクラスの画像を生成し、クラス 0 はまったく生成しない。
• 同じ合計データポイント数（マイノリティ 10,000 対マジョリティ 10,000）であっても、FedGAN は依然としてマジョリティクラスにバイアスを示す。これは、クライアントデータにおけるクラスの不均衡がグローバルモデルに伝搬されることを示している。
• Bias-Free FedGAN は、マイノリティクラスおよびマジョリティクラスの両方から画像を効果的に生成する。特に複数のマイノリティクラスを含む状況（例：図 3(c)、3(f)、4(c)、4(f)）において、クラス 0 と 1 の両方の画像が生成されている。
• 提案手法は、生データの送信がなく、モデルの重みのみを交換するため、FedGAN と同等の通信コストを維持する。
• クライアント生成器から導出された合成メタデータ上でグローバルモデルを再訓練することで、クラスのバランスを回復させ、公平性を向上させることができ、モデル品質に悪影響を及げない。