[论文解读] Federated AI lets a team imagine together: Federated Learning of GANs

Anoop Kolar Rajagopal, Nirmala|arXiv (Cornell University)|Jun 9, 2019

Aesthetic Perception and Analysis参考文献 13被引用 5

一句话总结

本文提出了联邦AI构想（Federated AI Imagination），一种新颖的协作式人工智能范式，使地理上分散的团队能够通过生成对抗网络（GANs）的联邦学习，共同生成创意构想。通过在保护数据隐私的前提下，在去中心化的客户端上训练GAN，该系统使团队能够协作构想并合成反映所有参与者集体兴趣的新构想，实现无需共享原始数据的协同创造力。

ABSTRACT

Envisioning a new imaginative idea together is a popular human need. Imagining together as a team can often lead to breakthrough ideas, but the collaboration effort can also be challenging, especially when the team members are separated by time and space. What if there is a AI that can assist the team to collaboratively envision new ideas?. Is it possible to develop a working model of such an AI? This paper aims to design such an intelligence. This paper proposes a approach to design a creative and collaborative intelligence by employing a form of distributed machine learning approach called Federated Learning along with fusion on Generative Adversarial Networks, GAN. This collaborative creative AI presents a new paradigm in AI, one that lets a team of two or more to come together to imagine and envision ideas that synergies well with interests of all members of the team. In short, this paper explores the design of a novel type of AI paradigm, called Federated AI Imagination, one that lets geographically distributed teams to collaboratively imagine.

研究动机与目标

• 设计一种协作式AI系统，使地理上分散的团队能够共同生成创意构想。
• 解决在基于机器学习的团队协作创意过程中面临的隐私与数据孤岛挑战。
• 探索一种新型人工智能范式——联邦AI构想，将联邦学习与生成对抗网络融合，用于集体构想。
• 实现协同构想生成，使输出反映多名团队成员的综合兴趣。
• 证明去中心化、保护隐私的GAN训练可支持创造性、基于团队的人工智能应用。

提出的方法

• 该方法采用联邦学习（FL）在多个去中心化客户端上训练GAN，而无需共享原始数据。
• 每个客户端在其私有数据上本地训练本地GAN生成器与判别器，并更新模型权重。
• 定期使用FedAvg或类似聚合技术将全局模型权重进行聚合，以改进共享的GAN。
• 一种融合机制将每个客户端生成器的潜在表征结合起来，生成联合的、协作的输出。
• 通过仅传输模型梯度或参数而非原始数据，确保数据隐私。
• 最终训练的GAN能够生成反映所有团队成员集体创意兴趣的图像。

实验结果

研究问题

• RQ1 联邦学习能否有效应用于训练GAN，以实现协作式、保护隐私的创意生成？
• RQ2 如何使具有不同数据分布的多个去中心化用户协作训练GAN，以生成具有协同效应、面向团队的输出？
• RQ3 何种融合策略能够实现将个体生成模型有意义地整合为统一的协作式AI系统？
• RQ4 联邦GAN在保持高质量、多样化图像生成的同时，能在多大程度上保护隐私？
• RQ5 与个体或集中式GAN相比，协作式GAN的输出在创意性与团队兴趣代表性方面表现如何？

主要发现

• 联邦GAN框架成功实现了在去中心化客户端之间协作生成图像，且无需共享原始数据。
• 该系统生成了多样化且高质量的图像，真实反映了所有团队成员的综合兴趣。
• 联邦训练在保护数据隐私的同时，实现了与集中式GAN训练相当的性能。
• 本地生成器的融合产生了超越任一客户端模型的新兴创意输出。
• 该方法证明了一种新型人工智能范式——联邦AI构想——在保护隐私、基于团队的构想中的可行性。
• 该方法支持可扩展的分布式协作，使每位团队成员都能在不暴露其私有数据的前提下参与创意过程。