[论文解读] How Does GAN-based Semi-supervised Learning Work?

Xuejiao Liu, Xueshuang Xiang|arXiv (Cornell University)|Jul 11, 2020

Generative Adversarial Networks and Image Synthesis参考文献 17被引用 6

一句话总结

本文对基于生成对抗网络的半监督学习（GAN-SSL）进行了理论分析，表明在利用不完美的生成器时，GAN-SSL中的极小极大优化会导致对有标签和无标签数据的完美判别器。主要贡献在于，即使生成器未能完美建模真实数据分布，GAN-SSL仍能通过无标签数据有效提升判别器的泛化能力。

ABSTRACT

Generative adversarial networks (GANs) have been widely used and have achieved competitive results in semi-supervised learning. This paper theoretically analyzes how GAN-based semi-supervised learning (GAN-SSL) works. We first prove that, given a fixed generator, optimizing the discriminator of GAN-SSL is equivalent to optimizing that of supervised learning. Thus, the optimal discriminator in GAN-SSL is expected to be perfect on labeled data. Then, if the perfect discriminator can further cause the optimization objective to reach its theoretical maximum, the optimal generator will match the true data distribution. Since it is impossible to reach the theoretical maximum in practice, one cannot expect to obtain a perfect generator for generating data, which is apparently different from the objective of GANs. Furthermore, if the labeled data can traverse all connected subdomains of the data manifold, which is reasonable in semi-supervised classification, we additionally expect the optimal discriminator in GAN-SSL to also be perfect on unlabeled data. In conclusion, the minimax optimization in GAN-SSL will theoretically output a perfect discriminator on both labeled and unlabeled data by unexpectedly learning an imperfect generator, i.e., GAN-SSL can effectively improve the generalization ability of the discriminator by leveraging unlabeled information.

研究动机与目标

• 为了从理论上理解基于生成对抗网络的半监督学习（GAN-SSL）如何在生成器未能完美建模数据分布的情况下实现性能提升。
• 为了阐明在生成器固定条件下，GAN-SSL中的最优判别器与监督学习中最优判别器之间的关系。
• 为了研究GAN-SSL中最优判别器在何种条件下能对有标签和无标签数据均实现完美性能。
• 通过更严格的理论分析，挑战先前研究中关于‘差的生成器’对良好SSL性能是必要的主张。
• 识别并证明关键假设（尤其是关于数据流形结构的假设）对于GAN-SSL理论保证的必要性。

提出的方法

• 证明对于固定生成器，优化GAN-SSL判别器等价于优化监督学习目标，意味着最优判别器应在所有有标签数据上表现完美。
• 分析GAN-SSL中生成器的目标函数，即最小化KL与JS散度的组合：$-KL(p||p - \epsilon p_G) + 2JS(p||p_G)$，其中$\epsilon$衡量判别器误差与理论最大值的差距。
• 证明若最优判别器达到理论最大值（$\epsilon = 0$），则生成器目标函数简化为最小化$JS(p||p_G)$，意味着生成器是完美的。
• 提出并证明假设1(3)：有标签数据必须遍历数据流形的所有连通子域，才能实现对无标签数据的完美泛化。
• 通过合成二分类实验，实证验证假设1(3)的必要性，表明若某些子域缺少有标签数据，则会对无标签数据产生不确定预测。
• 与先前工作（如[4]）的假设进行对比，表明对‘补全生成器’的要求过于严格，可被放松为存在线性可表示的虚假特征。

实验结果

研究问题

• RQ1 当生成器固定时，GAN-SSL中的最优判别器与监督学习中的最优判别器有何关系？
• RQ2 在何种条件下，GAN-SSL中的最优判别器能对有标签和无标签数据均实现完美性能？
• RQ3 如先前研究所述，‘差的生成器’是否真的对有效的半监督学习是必要的？
• RQ4 GAN-SSL理论成功所需的关于数据流形的结构假设是什么？
• RQ5 能否在不破坏理论保证的前提下，放宽对‘补全生成器’的要求？

主要发现

• 对于固定生成器，优化GAN-SSL判别器等价于优化监督学习目标，因此最优判别器应在所有有标签数据上表现完美。
• 在实际中，GAN-SSL的最优生成器是不完美的，因为判别器目标函数的理论最大值无法实现，故$\epsilon > 0$。
• 若最优判别器达到理论最大值（$\epsilon = 0$），则生成器目标函数简化为最小化$JS(p||p_G)$，意味着生成器是完美的。
• 当有标签数据覆盖数据流形的所有连通子域时（假设1(3)），GAN-SSL中的最优判别器也能在无标签数据上表现完美。
• GAN-SSL中的最优生成器并非如先前所称的‘差’；相反，它是不完美但不损害性能的。
• 合成实验验证了：若某些子域缺少有标签数据，则会对无标签数据产生泛化性能下降，从而证实了假设1(3)的必要性。