[论文解读] Understanding and Improving Interpolation in Autoencoders via an Adversarial Regularizer

David Berthelot, Colin Raffel+2 more|arXiv (Cornell University)|Jul 19, 2018

Model Reduction and Neural Networks被引用 91

一句话总结

本文提出 ACAI，一种对抗性正则化器，用于培训评判器以预测插值系数，并训练自编码器去欺骗评判器，从而显著提升插值质量并为下游任务获得更好的潜在表示。

ABSTRACT

Autoencoders provide a powerful framework for learning compressed representations by encoding all of the information needed to reconstruct a data point in a latent code. In some cases, autoencoders can "interpolate": By decoding the convex combination of the latent codes for two datapoints, the autoencoder can produce an output which semantically mixes characteristics from the datapoints. In this paper, we propose a regularization procedure which encourages interpolated outputs to appear more realistic by fooling a critic network which has been trained to recover the mixing coefficient from interpolated data. We then develop a simple benchmark task where we can quantitatively measure the extent to which various autoencoders can interpolate and show that our regularizer dramatically improves interpolation in this setting. We also demonstrate empirically that our regularizer produces latent codes which are more effective on downstream tasks, suggesting a possible link between interpolation abilities and learning useful representations.

研究动机与目标

• 形式化并改善自编码器中的插值。 Propose an adversarial regularizer that enforces realistic interpolations.
• 创建一个定量基准来衡量插值质量。
• 证明改进的插值对下游任务如分类和聚类有益。

提出的方法

• 通过凸潜在编码混合和真实感重建来定义自编码器插值。
• 引入一个评判器网络，从插值重建中预测插值系数。
• 训练自编码器以欺骗评判器，使插值看起来像非插值重建。
• 提供一个简单的基准（自编码线）与平均距离和平滑度指标来量化插值质量。
• 在基准上比较各种自编码器架构（基线、Dropout、去噪、VAE、AAE、VQ-VAE）。
• 显示 ACAI 提高插值和下游任务性能。

实验结果

研究问题

• RQ1 对抗性正则化是否能在自编码器中促成更高质量、更加真实的插值？
• RQ2 改进的插值是否与监督分类和聚类中的潜在表示更好相关？
• RQ3 在受控插值基准上，ACAI 与标准自编码器及其他潜在正则化自编码器有何差异？
• RQ4 是否存在插值质量与下游表示有用性之间的可检测关联？

主要发现

• ACAI 在合成线基准测试中实现了最佳的平均距离和平滑度分数，优于其他自编码器变体。
• 在 MNIST、SVHN、CIFAR-10 上，使用 ACAI 学到的潜在表示显著提升单层分类器准确率（尤其是在 SVHN，256-d 潜在：ACAI 85.14% vs 基线 22.74%）。
• 与其他模型相比，ACAI 在潜在空间中通常获得更好的聚类准确率（MNIST 和 SVHN）。
• 去噪自编码器和 VAE 在某些设置中表现良好，但 ACAI 提供持续的插值改进和有竞争力的下游任务表现。
• 在真实图像数据集（MNIST、SVHN、CelebA）上，ACAI 往往比基线产生更真实、更平滑的插值。