[论文解读] Decentralized Learning of Generative Adversarial Networks from Non-iid Data

Ryo Yonetani, Tomohiro Takahashi+2 more|arXiv (Cornell University)|May 23, 2019

Generative Adversarial Networks and Image Synthesis参考文献 46被引用 25

一句话总结

本文提出 Forgiver-First Update (F2U)，一种去中心化的 GAN 训练方法，通过在每个客户端本地训练其判别器，并将生成器更新为欺骗最‘宽容’的判别器（即对生成样本分类为真实样本最宽松的判别器），从而在非独立同分布（non-i.i.d.）客户端数据上学习统一的数据分布。理论上，F2U 通过最小化 f-散度实现收敛，达到包含所有输入类别的全局最优解；而其实际变体 F2A 通过基于反向传播优化的自适应聚合策略，进一步提升了性能。

ABSTRACT

This work addresses a new problem that learns generative adversarial networks (GANs) from multiple data collections that are each i) owned separately by different clients and ii) drawn from a non-identical distribution that comprises different classes. Given such non-iid data as input, we aim to learn a distribution involving all the classes input data can belong to, while keeping the data decentralized in each client storage. Our key contribution to this end is a new decentralized approach for learning GANs from non-iid data called Forgiver-First Update (F2U), which a) asks clients to train an individual discriminator with their own data and b) updates a generator to fool the most `forgiving' discriminators who deem generated samples as the most real. Our theoretical analysis proves that this updating strategy allows the decentralized GAN to achieve a generator's distribution with all the input classes as its global optimum based on f-divergence minimization. Moreover, we propose a relaxed version of F2U called Forgiver-First Aggregation (F2A) that performs well in practice, which adaptively aggregates the discriminators while emphasizing forgiving ones. Our empirical evaluations with image generation tasks demonstrated the effectiveness of our approach over state-of-the-art decentralized learning methods.

研究动机与目标

• 解决在客户端持有不同类别分布的非独立同分布数据下训练生成模型的挑战。
• 使全局生成器能够在不集中数据或假设数据独立同分布的前提下，学习涵盖所有输入类别的分布。
• 提供一种理论基础扎实的去中心化 GAN 训练方法，保护隐私并避免数据泄露。
• 克服先前去中心化 GAN 在非独立同分布数据下失效或缺乏理论保证的局限性。

提出的方法

• 使用每个客户端的私有非独立同分布数据本地训练其判别器，以保持数据的去中心化特性。
• 对每个生成样本，识别出最‘宽容’的判别器（即赋予真实度分数最高的判别器），以指导生成器的更新。
• 将生成器损失公式化为 f-散度最小化问题，证明全局最优解对应于客户端数据分布的最大值，$p_{\rm max}(x) = \frac{1}{Z}\max_i p_i(x)$。
• 提出 F2A 作为松弛变体，通过可学习且正则化的权重，基于反向传播自适应聚合判别器输出。
• 在生成器和判别器架构中使用谱归一化和批量归一化，以在 MNIST、Fashion-MNIST 和 CINIC-10 上稳定训练。
• 实现一种通信高效的框架，仅共享模型更新（而非原始数据），从而确保隐私与可扩展性。

实验结果

研究问题

• RQ1 去中心化的 GAN 是否能够在不集中数据的前提下，从非独立同分布的客户端数据中学习到涵盖所有类别的统一数据分布？
• RQ2 在生成器更新中优先考虑最宽容的判别器，是否能引导模型收敛到覆盖所有输入类别的全局最优解？
• RQ3 F2U 下 f-散度最小化的理论保证与实际图像生成任务中的性能表现相比如何？
• RQ4 在实际应用中，宽松的自适应聚合策略（F2A）是否能优于严格的 F2U，同时保持对非独立同分布数据的鲁棒性？
• RQ5 数据非独立同分布程度对去中心化 GAN 训练中生成器多样性与模式覆盖的影响是什么？

主要发现

• F2U 通过 f-散度最小化实现理论收敛，其全局最优解为客户端数据分布的最大值，即 $p_{\rm max}(x)$。
• F2A 通过可学习且经反向传播更新的权重，自适应地加权判别器输出，在实践中优于 F2U，显著提升了生成样本的质量与多样性。
• F2U 与 F2A 在 MNIST、Fashion-MNIST 和 CINIC-10 上均能生成高质量且多样化的图像，未出现模式崩溃或类别偏差。
• MD-GAN 生成的样本质量较低，而 GMAN 变体表现出强烈的类别偏差（如过度生成‘1’类），证实了 F2U/F2A 的优越性。
• 定性结果表明，F2U 与 F2A 即使在非独立同分布数据设置下，也能避免主要伪影，生成平衡且逼真的样本。
• 该方法能有效捕捉仅在部分客户端中存在的稀有类别，展现出对数据异质性的强鲁棒性。