[논문 리뷰] Brainstorming Generative Adversarial Networks (BGANs): Towards Multi-Agent Generative Models with Distributed Private Datasets

Aidin Ferdowsi, Walid Saad|arXiv (Cornell University)|2020. 02. 01.

Generative Adversarial Networks and Image Synthesis인용 수 15

한 줄 요약

이 논문은 개인정보 보호와 통신 제약 조건 하에서 실데이터를 공유할 수 없는 다수의 에이전트 간에 분산된 데이터 분포를 공동으로 학습할 수 있도록 하는 완전히 분산된 다중에이전트 GAN 프레임워크인 브레인스토밍 생성적 적대적 네트워크(BGAN)를 제안한다. BGAN은 실데이터를 교환하지 않고 생성된 샘플만 공유함으로써 통신 오버헤드를 극도로 줄이며, FLGAN, MDGAN, F2U보다 13–38% 낮은 프리셰트 인ception 거리(Fréchet Inception Distance, FID)를 달성하여 최신 기술(SOTA) 성능을 확보한다.

ABSTRACT

To achieve a high learning accuracy, generative adversarial networks (GANs) must be fed by large datasets that adequately represent the data space. However, in many scenarios, the available datasets may be limited and distributed across multiple agents, each of which is seeking to learn the distribution of the data on its own. In such scenarios, the agents often do not wish to share their local data as it can cause communication overhead for large datasets. In this paper, to address this multi-agent GAN problem, a novel brainstorming GAN (BGAN) architecture is proposed using which multiple agents can generate real-like data samples while operating in a fully distributed manner. BGAN allows the agents to gain information from other agents without sharing their real datasets but by ``brainstorming'' via the sharing of their generated data samples. In contrast to existing distributed GAN solutions, the proposed BGAN architecture is designed to be fully distributed, and it does not need any centralized controller. Moreover, BGANs are shown to be scalable and not dependent on the hyperparameters of the agents' deep neural networks (DNNs) thus enabling the agents to have different DNN architectures. Theoretically, the interactions between BGAN agents are analyzed as a game whose unique Nash equilibrium is derived. Experimental results show that BGAN can generate real-like data samples with higher quality and lower Jensen-Shannon divergence (JSD) and Fr\\`echet Inception distance (FID) compared to other distributed GAN architectures.

연구 동기 및 목표

• 개인정보 및 통신 제약 조건으로 인해 실데이터를 공유할 수 없는 다수의 에이전트가 존재할 때 고품질 GAN을 훈련하는 데 도전하는 것.
• 중앙 집중식 제어기나 파라미터 집계기 없이도 작동하는 완전히 탈중앙화된 GAN 아키텍처를 설계하는 것.
• 다양한 딥 네트워크(DNN) 아키텍처를 가진 에이전트들이 생성된 샘플을 공유함으로써 데이터 생성 품질을 공동으로 향상시킬 수 있도록 하는 것.
• 샘플 품질을 유지하거나 향상시키면서도 분산 GAN 학습의 통신 오버헤드를 최소화하는 것.
• 에이전트 상호작용의 게임이론적 분석을 통해 수렴 보장을 이끌어내는 것.

제안 방법

• BGAN은 각 에이전트가 자체 생성기와 판별기를 독립적으로 훈련시키며, 지역적으로 이용 가능한 데이터만을 사용하는 다중에이전트 GAN 프레임워크를 도입한다.
• 에이전트들은 실데이터가 아닌 생성된 데이터 샘플만 교환함으로써 정보를 공유하고 생성 품질을 향상시키는 '브레인스토밍' 과정을 거친다.
• 프레임워크는 에이전트 간의 비협력 게임으로 모델링되며, 에이전트 네트워크의 강한 연결성 조건 하에서 유일한 내쉬 균형이 도출된다.
• 통신 비용은 𝒪(nb|x|)로 최소화되며, 여기서 n은 에이전트 수, b는 배치 크기, |x|는 각 데이터 샘플의 크기이다. 이는 파라미터 공유 방식 대비 대역폭을 크게 절감한다.
• 아키텍처는 서로 다른 DNN 아키텍처를 가진 에이전트를 지원하며, 하이퍼파rameter 동기화나 중앙 집중식 집계기가 필요하지 않다.
• 이론적 분석을 통해 강한 네트워크 연결성 조건 하에서 유일한 내쉬 균형으로 수렴함을 증명하며, 이는 에이전트 간 안정적인 학습 동역학을 보장한다.

실험 결과

연구 질문

• RQ1 실데이터를 공유할 수 없는 다수의 에이전트가 존재할 때, 완전히 분산된 GAN 프레임워크가 비공개 실데이터를 유지하면서도 고품질의 현실적인 데이터 샘플을 생성할 수 있는가?
• RQ2 샘플 품질을 유지하거나 향상시키면서도 다중에이전트 GAN 학습에서 통신 효율성을 어떻게 극대화할 수 있는가?
• RQ3 BGAN 에이전트 간 탈중앙화된 상호작용에서 도출되는 게임이론적 균형의 구조는 무엇이며, 이는 유일하고 안정적인가?
• RQ4 BGAN은 다양한 DNN 아키텍처와 다른 계산 능력을 지닌 에이전트를 어느 정도 지원할 수 있는가?
• RQ5 FID 및 JSD 측정 기준으로 BGAN의 성능은 FLGAN, MDGAN, F2U와 같은 중심집중형 또는 부분적으로 중심집중형 분산 GAN과 비교해 어떻게 되는가?

주요 결과

• MNIST 데이터셋에서 BGAN은 최고 성능을 보인 대안 대비 13% 낮은 FID를 기록했으며, 패션-MNIST와 CIFAR-10에서는 각각 31%와 38% 향상된 성능을 보였다.
• 더 복잡한 CIFAR-10 데이터셋에서 BGAN은 다음으로 좋은 분산 GAN 아키텍처 대비 FID를 38% 감소시켜 뛰어난 샘플 품질을 입증했다.
• BGAN은 통신 오버헤드를 𝒪(nb|x|)로 줄였으며, 이는 FLGAN(𝒪(n(|θg|+|θd|)))과 MDGAN(𝒪(n(b|x|+|θd|)))보다 크게 낮아 대역폭 제약이 심한 환경에 매우 적합하다.
• BGAN은 중앙 제어기가 없기 때문에 에이전트 장애에 강건한 반면, FLGAN, MDGAN, F2U는 중앙 노드 장애 시 시스템이 붕괴된다.
• BGAN은 서로 다른 DNN 아키텍처를 가진 에이전트를 지원하며 하이퍼파rameter 정렬이 필요 없어 계산 능력이 제한된 에이전트의 참여도 가능하다.
• 이론적 분석을 통해 에이전트 네트워크가 강하게 연결되어 있을 경우에만 유일한 내쉬 균형이 존재함을 확인하였으며, 이는 안정적이고 수렴 가능한 학습 동역학을 보장한다.