[논문 리뷰] Federated AI lets a team imagine together: Federated Learning of GANs

Anoop Kolar Rajagopal, Nirmala|arXiv (Cornell University)|2019. 06. 09.

Aesthetic Perception and Analysis참고 문헌 13인용 수 5

한 줄 요약

이 논문은 지리적으로 분산된 팀이 생성적 적대적 네트워크(GAN)의 연합 학습을 통해 기밀을 유지하면서 공동으로 창의적 아이디어를 생성할 수 있는 새로운 공동 AI 패러다임인 '연합 AI 상상'을 제안한다. 데이터 프라이버시를 유지하면서 분산된 클라이언트 간에 GAN을 훈련시킴으로써, 모든 참가자의 집단적 관심사를 반영하는 새로운 아이디어를 공동으로 상상하고 융합할 수 있으며, 원시 데이터를 공유하지 않고도 상호보완적인 창의성을 실현한다.

ABSTRACT

Envisioning a new imaginative idea together is a popular human need. Imagining together as a team can often lead to breakthrough ideas, but the collaboration effort can also be challenging, especially when the team members are separated by time and space. What if there is a AI that can assist the team to collaboratively envision new ideas?. Is it possible to develop a working model of such an AI? This paper aims to design such an intelligence. This paper proposes a approach to design a creative and collaborative intelligence by employing a form of distributed machine learning approach called Federated Learning along with fusion on Generative Adversarial Networks, GAN. This collaborative creative AI presents a new paradigm in AI, one that lets a team of two or more to come together to imagine and envision ideas that synergies well with interests of all members of the team. In short, this paper explores the design of a novel type of AI paradigm, called Federated AI Imagination, one that lets geographically distributed teams to collaboratively imagine.

연구 동기 및 목표

• 지리적으로 분산된 팀이 공동으로 창의적 아이디어를 생성할 수 있도록 하는 공동 AI 시스템을 설계하는 것.
• 기계 학습을 활용한 팀 기반 창의적 협업에서의 기밀 보장 및 데이터 사각지대 문제를 해결하는 것.
• 연합 학습과 생성적 적대적 네트워크를 융합하여 집단적 상상력을 위한 새로운 AI 패러다임인 '연합 AI 상상'을 탐색하는 것.
• 여러 팀원의 관심사를 종합적으로 반영하는 상호보완적 아이디어 생성을 가능하게 하는 것.
• 분산형이고 기밀 보장이 가능한 GAN 훈련이 창의적이고 팀 기반 AI 응용에 기여할 수 있음을 입증하는 것.

제안 방법

• 해당 방법은 원시 데이터를 공유하지 않고도 다수의 분산 클라이언트 간에 GAN을 훈련하기 위해 연합 학습(FL)을 활용한다.
• 각 클라이언트는 자신의 비공개 데이터를 바탕으로 국지적 GAN 생성기와 판별기 모델을 훈련하며, 모델 가중치를 로컬에서 업데이트한다.
• 전체 모델 가중치는 FedAvg 또는 유사한 집계 기법을 사용해 주기적으로 집계하여 공유 GAN의 성능을 향상시킨다.
• 각 클라이언트의 생성기에서 유도된 잠재 표현을 융합하는 메커니즘이 도입되어 통합된 공동 출력을 생성한다.
• 원시 데이터는 전송되지 않으며, 오직 모델 기울기나 가중치만 전송되어 데이터 기밀성이 보장된다.
• 최종 GAN은 모든 팀원의 집합적 창의적 관심사를 반영하는 이미지를 생성하도록 훈련된다.

실험 결과

연구 질문

• RQ1 연합 학습이 공동으로 기밀을 유지하는 창의적 생성을 위한 GAN 훈련에 효과적으로 적용될 수 있는가?
• RQ2 다른 데이터 분포를 가진 다수의 분산 사용자가 공동으로 GAN을 훈련시켜 상호보완적이고 팀 중심의 출력을 도출할 수 있는가?
• RQ3 개별 생성 모델을 통합하여 통합된 공동 AI 시스템을 구성할 수 있는 융합 전략은 무엇인가?
• RQ4 연합 GAN이 높은 품질과 다양성의 이미지 생성을 유지하면서 얼마나 효과적으로 기밀을 보장하는가?
• RQ5 협업 GAN의 출력은 창의성과 팀의 관심사를 대표하는 데서 개인 또는 중심화된 GAN과 비교해 어떤가?

주요 결과

• 연합 GAN 프레임워크는 원시 데이터를 공유하지 않고도 분산 클라이언트 간에 공동 이미지 생성을 성공적으로 가능하게 했다.
• 모든 팀원의 집합적 관심사를 반영하는 다양하고 고품질의 생성 이미지를 생성하는 데 성공했다.
• 연합 훈련은 데이터 기밀성을 유지하면서도 중심화된 GAN 훈련과 비교해 유사한 성능을 달성했다.
• 국지적 생성기의 융합은 개별 클라이언트 모델에 존재하지 않는 새로운 창의적 출력을 유도하는 현상을 보였다.
• 기밀 보장이 가능한 팀 기반 상상력을 위한 새로운 AI 패러다임인 '연합 AI 상상'의 실현 가능성을 입증했다.
• 각 팀원이 개인적 데이터를暴露하지 않고 창의적 과정에 기여할 수 있는 확장 가능한 분산 협업을 지원한다.