[논문 리뷰] Bias-Free FedGAN: A Federated Approach to Generate Bias-Free Datasets

Vaikkunth Mugunthan, Vignesh Gokul외 2명|arXiv (Cornell University)|2021. 03. 17.

Generative Adversarial Networks and Image Synthesis참고 문헌 16인용 수 7

한 줄 요약

이 논문은 비편향 FedGAN을 제안하며, 클라이언트 모델에서 생성된 메타데이터를 집계자가 생성하고, 이를 기반으로 보정된 균형 잡힌 합성 데이터로 글로벌 모델을 재학습시켜 합성 데이터 생성 시 편향을 제거하는 분산 GAN 프레임워크이다. 이 방법은 비i.i.d. 데이터 분포 하에서도 동일한 통신 효율성과 함께 비편향 이미지 합성 성능을 달성하였으며, MNIST 및 FashionMNIST 데이터셋에서 검증되었다.

ABSTRACT

Federated Generative Adversarial Network (FedGAN) is a communication-efficient approach to train a GAN across distributed clients without clients having to share their sensitive training data. In this paper, we experimentally show that FedGAN generates biased data points under non-independent-and-identically-distributed (non-iid) settings. Also, we propose Bias-Free FedGAN, an approach to generate bias-free synthetic datasets using FedGAN. Our approach generates metadata at the aggregator using the models received from clients and retrains the federated model to achieve bias-free results for image synthesis. Bias-Free FedGAN has the same communication cost as that of FedGAN. Experimental results on image datasets (MNIST and FashionMNIST) validate our claims.

연구 동기 및 목표

• 비i.i.d. 데이터 분포 하에서 소수의 클래스 데이터가 생성 출력에서 부족하게 나타나는 분산 GAN의 편향 문제를 해결하기 위해.
• 원시 클라이언트 데이터에 접근하지 않고도 데이터 프라이버시를 유지하면서도 이질적인 클라이언트 간의 공정한 합성 데이터 생성을 달성하는 통신 효율적인 솔루션을 개발하기 위해.
• 클라이언트 생성자로부터 파생된 메타데이터를 기반으로 글로벌 모델을 재학습시켜 편향을 완화할 수 있음을 입증하기 위해.
• 실제 비i.i.i.d. 환경에서 표준 이미지 벤치마크(MNIST 및 FashionMNIST)를 대상으로 제안된 방법의 효과성을 검증하기 위해.
• 개인정보 보호 기반의 공정한 생성 모델링을 위한 기반을 마련하기 위해.

제안 방법

• 각 분산 학습 라운드 후, 집계자가 모든 클라이언트로부터 로컬 생성자 모델을 수령한다.
• 각 클라이언트의 생성자로부터 10,000장의 이미지를 샘플링하여 메타데이터로 삼아 전체적으로 균형 잡힌 합성 데이터셋을 생성한다.
• 이 집계된 메타데이터를 기반으로 글로벌 생성자 및 디스criminator를 100 에포크 동안 공동으로 재학습시어 모델을 보정하고 편향을 감소시킨다.
• 재학습된 글로벌 모델을 다음 분산 학습 라운드를 위해 클라이언트들에게 다시 방송한다.
• 원자료가 전송되지 않고 오직 모델 가중치만 교환되므로, 이 방법은 FedGAN과 동일한 통신 효율성을 유지한다.
• 모델 평균화와 메타데이터 기반 재학습을 활용하여 분산 집계 과정에서 전파되는 클래스 불균형을 보완한다.

실험 결과

연구 질문

• RQ1 클라이언트가 비i.i.d. 데이터 분포를 가질 경우, FedGAN은 소수 클래스가 부족하게 나타나는 경우에 편향된 합성 데이터를 생성하는가?
• RQ2 원시 클라이언트 데이터를 공유하거나 클라이언트 수준의 학습을 수정하지 않고도, 분산 GAN 프레임워크가 편향 없는 합성 이미지를 생성할 수 있는가?
• RQ3 클라이언트 생성자로부터 유도된 합성 메타데이터를 기반으로 글로벌 모델을 재학습시키는 것이 최종 출력의 편향을 효과적으로 감소시키는가?
• RQ4 제안된 편향 보완 방법의 통신 비용은 기존 FedGAN과 비교해 어떻게 되는가?
• RQ5 비i.i.d. 환경에서 제안된 방법의 성능은 FedGAN 대비 클래스 커버리지 및 이미지 품질 측면에서 어떻게 비교되는가?

주요 결과

• 비i.i.d. 환경에서 FedGAN은 다수 클래스에서 주로 생성된 이미지로 편향된 출력을 생성하며, 소수 클래스가 클라이언트 데이터에 존재하더라도 이를 반영하지 못한다.
• 한 클라이언트가 소수 클래스 0에 대해 10,000장의 이미지를 보유하고 있고, 나머지 클라이언트들이 다수 클래스 2–9에 대해 각각 10,000장의 이미지를 보유할 경우, FedGAN은 오직 다수 클래스의 이미지만 생성하여 클래스 0를 완전히 생략한다.
• 동일한 총 데이터 포인트(소수 클래스 10,000장 대비 다수 클래스 10,000장)를 가질 경우에도 FedGAN은 여전히 다수 클래스 쪽으로 편향되며, 클라이언트 데이터의 클래스 불균형이 글로벌 모델로 전파됨을 보여준다.
• Bias-Free FedGAN은 소수 및 다수 클래스 모두에서 이미지를 성공적으로 생성하며, 다중 소수 클래스 시나리오에서 클래스 0과 1을 포함한 이미지를 생성한다. 그림 3(c), 3(f), 4(c), 및 4(f)에서 확인할 수 있다.
• 제안된 방법은 원자료 전송 없이 오직 모델 가중치만 교환되므로 FedGAN과 동일한 통신 비용을 유지한다.
• 클라이언트 생성자로부터 유도된 합성 메타데이터를 기반으로 글로벌 모델을 재학습시키는 것은 클래스 균형을 복원하고 공정성을 향상시키는 데 효과적이며, 모델 품질에 영향을 주지 않는다.