[논문 리뷰] Decentralized Learning of Generative Adversarial Networks from Non-iid Data

Ryo Yonetani, Tomohiro Takahashi외 2명|arXiv (Cornell University)|2019. 05. 23.

Generative Adversarial Networks and Image Synthesis참고 문헌 46인용 수 25

한 줄 요약

이 논문은 비독립 동일 분포가 아닌 클라이언트 데이터에서 통합된 데이터 분포를 학습하는 탈중앙화 GAN 학습 방법인 Forgiver-First 업데이트(F2U)를 제안한다. 각 클라이언트의 디스criminator를 국지적으로 훈련하고, 생성기의 업데이트를 가장 '용서하는' 디스criminator—즉, 생성된 샘플을 진짜로 보는 데 가장 관대한 것—을 기반으로 한다. 이론적으로 F2U는 f-divergence를 최소화하여 모든 입력 클래스를 포함하는 전역 최적해에 수렴하며, 실용적 변형인 F2A는 백프로파게이션 최적화된 적응형 집계를 통해 성능을 향상시킨다.

ABSTRACT

This work addresses a new problem that learns generative adversarial networks (GANs) from multiple data collections that are each i) owned separately by different clients and ii) drawn from a non-identical distribution that comprises different classes. Given such non-iid data as input, we aim to learn a distribution involving all the classes input data can belong to, while keeping the data decentralized in each client storage. Our key contribution to this end is a new decentralized approach for learning GANs from non-iid data called Forgiver-First Update (F2U), which a) asks clients to train an individual discriminator with their own data and b) updates a generator to fool the most `forgiving' discriminators who deem generated samples as the most real. Our theoretical analysis proves that this updating strategy allows the decentralized GAN to achieve a generator's distribution with all the input classes as its global optimum based on f-divergence minimization. Moreover, we propose a relaxed version of F2U called Forgiver-First Aggregation (F2A) that performs well in practice, which adaptively aggregates the discriminators while emphasizing forgiving ones. Our empirical evaluations with image generation tasks demonstrated the effectiveness of our approach over state-of-the-art decentralized learning methods.

연구 동기 및 목표

• 클라이언트들이 서로 다른 클래스를 가진 비독립 동일 분포가 아닌 데이터를 보유하는 탈중앙화된 비독립 동일 분포 데이터에서 생성 모델을 훈련하는 문제에 대응한다.
• 중앙 집중화된 데이터 없이도 모든 입력 클래스를 포함하는 분포를 학습할 수 있는 글로벌 생성기를 가능하게 한다.
• 개인정보 보호를 유지하고 데이터 泄露를 방지하면서도 이론적으로 탄탄한 탈중앙화 GAN 학습 방법을 제공한다.
• 비독립 동일 분포 데이터에서 실패하거나 이론적 보장이 없는 기존 탈중앙화 GAN의 한계를 극복한다.

제안 방법

• 각 클라이언트의 사적 비독립 동일 분포 데이터만을 사용하여 로컬 디스criminator를 훈련함으로써 데이터의 탈중앙화를 유지한다.
• 각 생성 샘플에 대해 가장 '용서하는' 디스criminator—즉, 가장 높은 진짜성 점수를 부여하는 디스criminator—를 식별하여 생성기 업데이트를 이끌어낸다.
• 생성기 손실을 f-divergence 최소화로 설정하고, 전역 최적해가 클라이언트 데이터 분포의 최댓값인 $p_{\rm max}(x) = \frac{1}{Z}\max_i p_i(x)$와 대응됨을 증명한다.
• 백프로파게이션을 통해 업데이트되는 학습 가능한 정규화된 가중치를 사용해 디스criminator 출력을 적응형으로 집계하는 F2A를 제안한다.
• MNIST, Fashion-MNIST, CINIC-10에서 훈련 안정성을 확보하기 위해 생성기 및 디스criminator 아키텍처에 스펙트럴 정규화와 배치 정규화를 적용한다.
• 원시 데이터가 아닌 모델 업데이트만 공유되는 통신 효율적인 프레임워크를 구현하여 개인정보 보호와 확장성을 확보한다.

실험 결과

연구 질문

• RQ1 탈중앙화된 GAN이 데이터를 중앙 집중화하지 않고도 비독립 동일 분포가 아닌 클라이언트 데이터로부터 모든 클래스를 포함하는 통합된 데이터 분포를 학습할 수 있는가?
• RQ2 생성기 업데이트에서 가장 용서하는 디스criminator를 우선순위로 삼는 것이 모든 입력 클래스를 커버하는 전역 최적해에 수렴하는가?
• RQ3 F2U에서 f-divergence 최소화의 이론적 보장은 실제 이미지 생성 작업에서의 성능과 어떻게 비교되는가?
• RQ4 유연한 적응형 집계 전략(F2A)은 엄격한 F2U보다 실용적으로 우수한 성능을 내며 비독립 동일 분포 데이터에 대해 강건한가?
• RQ5 데이터의 비독립 동일 분포 성격이 탈중앙화된 GAN 학습에서 생성기의 다양성과 모드 커버리지에 어떤 영향을 미치는가?

주요 결과

• F2U는 f-divergence 최소화를 통해 $p_{\rm max}(x)$, 즉 클라이언트 데이터 분포의 최댓값을 전역 최적해로 이론적으로 수렴한다.
• F2A는 학습 가능한, 백프로파게이션된 가중치를 사용해 디스criminator 출력을 적응형으로 가중함으로써 실용적으로 F2U를 능가하며, 샘플 품질과 다양성을 향상시킨다.
• F2U와 F2A는 MNIST, Fashion-MNIST, CINIC-10에서 모드 붕괴나 클래스 편향 없이 고품질의 다양한 이미지를 생성한다.
• MD-GAN은 낮은 품질의 샘플을 생성하고, GMAN 변종은 강한 클래스 편향(예: '1'을 과도하게 생성)을 보이며, F2U/F2A의 우수성을 확인한다.
• 정성적 결과에서는 F2U와 F2A가 비독립 동일 분포 데이터 설정에서도 주요 잡음 없이 균형 잡힌 현실적인 샘플을 생성함을 보여준다.
• 특히 일부 클라이언트에서만 존재하는 희귀 클래스를 효과적으로 포착하여 데이터 이질성에 대한 강건성을 입증한다.