[论文解读] Contrastive Variational Autoencoder Enhances Salient Features

Abubakar Abid, James Zou|arXiv (Cornell University)|Feb 12, 2019

Generative Adversarial Networks and Image Synthesis参考文献 20被引用 44

一句话总结

本文提出对比性变分自编码器（cVAE），通过对比地将目标数据集中与背景数据相比显著的潜在特征分离出来，从而实现针对这些特征的去噪和生成。

ABSTRACT

Variational autoencoders are powerful algorithms for identifying dominant latent structure in a single dataset. In many applications, however, we are interested in modeling latent structure and variation that are enriched in a target dataset compared to some background---e.g. enriched in patients compared to the general population. Contrastive learning is a principled framework to capture such enriched variation between the target and background, but state-of-the-art contrastive methods are limited to linear models. In this paper, we introduce the contrastive variational autoencoder (cVAE), which combines the benefits of contrastive learning with the power of deep generative models. The cVAE is designed to identify and enhance salient latent features. The cVAE is trained on two related but unpaired datasets, one of which has minimal contribution from the salient latent features. The cVAE explicitly models latent features that are shared between the datasets, as well as those that are enriched in one dataset relative to the other, which allows the algorithm to isolate and enhance the salient latent features. The algorithm is straightforward to implement, has a similar run-time to the standard VAE, and is robust to noise and dataset purity. We conduct experiments across diverse types of data, including gene expression and facial images, showing that the cVAE effectively uncovers latent structure that is salient in a particular analysis.

研究动机与目标

• 识别在目标数据集相对于背景数据集更加丰富的潜在因素。
• 开发一个非线性的深度生成模型，以分离标准 VAE 无法捕捉的显著特征。
• 提供一个实用的一体化训练框架，运行时间与 VAE 相当。
• 在跨越多种数据类型的背景噪声和数据集纯度场景中，展示方法的鲁棒性。

提出的方法

• 引入两个编码器 q_phi_s(s|x) 和 q_phi_z(z|x)，从目标数据和背景数据中推断显著潜在变量和不相关潜在变量。
• 使用单一解码器 f_theta(s,z)，从拼接后的 (s,z) 重建目标数据，从 (0,z) 重建背景数据。
• 推导目标似然和背景似然的变分下界，类似于 VAE 目标（等式 3 和 4）。
• 训练以最大化目标和背景目标之和，再加上一个总相关性（TC）项，通过基于密度比的判别器促进 s 与 z 的独立性。
• 在实践中，使用判别器实现 TC 估计，以区分联合 (s,z) 与边缘乘积，从而实现可行的优化。
• 可选地将网络约束为零偏置，以确保零输入映射到零输出，从而实现去噪。

实验结果

研究问题

• RQ1 对比性 VAE 能否识别在目标数据中显著但在背景中不存在的潜在特征？
• RQ2 在存在背景噪声或混杂变异时，cVAE 与标准 VAE 在恢复或聚类显著特征方面有何比较？
• RQ3 通过仅操作显著潜在变量来生成或去噪样本，同时不重新引入无关结构？
• RQ4 该方法对背景数据集质量和超参数设置在不同领域（图像、基因组学）中的鲁棒性如何？

主要发现

• 在 Grassy-MNIST 上，cVAE 的显著 s-潜在变量聚类数字，与标准 VAE 不同，后者的主导因素与草地噪声相关（轮廓分数）。
• 在 RNA-Seq 数据上，cVAE 通过显著潜在空间中的移植前/后状态来改善聚类，与标准 VAE 不同。
• 在 CelebA 上，cVAE 突出显示并允许对眼镜或帽子等属性进行操作，去噪还能去除无关背景特征。
• 该方法对背景噪声和适度的背景错误指定具有鲁棒性，即使背景嘈杂也能保持性能。
• 运行时和体系结构复杂性与标准 VAE 相近，额外的 TC 项提高了解耦。