[论文解读] Adversarially Learned Inference

Vincent Dumoulin, Ishmael Belghazi+5 more|arXiv (Cornell University)|Jun 2, 2016

Adversarial Robustness in Machine Learning参考文献 38被引用 692

一句话总结

ALI 在对抗框架中共同训练编码器和解码器，以学习互相一致的推理和生成网络，在保持高保真样本的同时实现具有竞争力的半监督性能。

ABSTRACT

We introduce the adversarially learned inference (ALI) model, which jointly learns a generation network and an inference network using an adversarial process. The generation network maps samples from stochastic latent variables to the data space while the inference network maps training examples in data space to the space of latent variables. An adversarial game is cast between these two networks and a discriminative network is trained to distinguish between joint latent/data-space samples from the generative network and joint samples from the inference network. We illustrate the ability of the model to learn mutually coherent inference and generation networks through the inspections of model samples and reconstructions and confirm the usefulness of the learned representations by obtaining a performance competitive with state-of-the-art on the semi-supervised SVHN and CIFAR10 tasks.

研究动机与目标

• 激发并开发一个深度生成框架，使生成和推理网络能够共同学习。
• 通过在对抗训练中实现高效、具表达性的推理，架起 GANs 与 VAEs 之间的桥梁。
• 展示所学潜在表示对 SVHN 和 CIFAR-10 的半监督任务有用。

提出的方法

• 定义编码器 q(x,z) = q(x) q(z|x) 和解码器 p(x,z) = p(z) p(x|z)，并训练一个判别器以区分来自这两个分布的联合样本。
• 在最优判别器下，使用对抗目标最小化 q(x,z) 和 p(x,z) 之间的 Jensen-Shannon 散度。
• 使用重参数化技巧在随机编码器/解码器中传播梯度。
• 提供一个条件生成扩展，使 p(y) 与 q(x,y) 相匹配，从而实现对属性的条件控制（如 CelebA）。
• 将 ALI 的联合推理与 InfoGAN 和后验学习推理等替代方法进行比较。

实验结果

研究问题

• RQ1 在对抗设置下联合学习的推理和生成是否能够产生一致的编码器/解码器映射？
• RQ2 所学习的潜在表示是否在标准基准测试上支持有竞争力的半监督学习？
• RQ3 就模式覆盖和表示质量而言，ALI 与替代推理策略（如 InfoGAN、后验推理）相比如何？
• RQ4 对辅助信息进行条件化会对学习到的模型行为产生怎样的影响？

主要发现

• ALI 产生的样本高保真度，可与 GANs 相媲美，同时实现将数据映射到潜在变量的推理机制。
• ALI 中的潜在插值显示出数据点之间的平滑过渡，表明潜在结构的一致性。
• ALI 推断出的特征在 SVHN 和 CIFAR-10 半监督结果中具有竞争力，且常常超越以往基于 GAN 的方法（无需特征匹配）。
• 条件化的 ALI 展示了通过观测属性（如 CelebA 属性）控制生成输出的能力。
• 将 ALI 与基于 GAN 的推理进行比较的实验显示，相较于事后或反转映射，对推理与生成的联合学习提高了模式覆盖。