[论文解读] Deterministic Decoding for Discrete Data in Variational Autoencoders

Daniil Polykovskiy, Dmitry Vetrov|arXiv (Cornell University)|Mar 4, 2020

Gaussian Processes and Bayesian Inference参考文献 30被引用 4

一句话总结

该论文提出确定性解码变分自编码器（DD-VAE），通过使用基于 argmax 的确定性生成替代随机解码，以提升离散序列数据中的解耦表征学习。通过采用有界支持提议分布并结合 argmax 的连续松弛，DD-VAE 在重建精度和分子性质优化等下游任务中均优于标准 VAE。

ABSTRACT

Variational autoencoders are prominent generative models for modeling discrete data. However, with flexible decoders, they tend to ignore the latent codes. In this paper, we study a VAE model with a deterministic decoder (DD-VAE) for sequential data that selects the highest-scoring tokens instead of sampling. Deterministic decoding solely relies on latent codes as the only way to produce diverse objects, which improves the structure of the learned manifold. To implement DD-VAE, we propose a new class of bounded support proposal distributions and derive Kullback-Leibler divergence for Gaussian and uniform priors. We also study a continuous relaxation of deterministic decoding objective function and analyze the relation of reconstruction accuracy and relaxation parameters. We demonstrate the performance of DD-VAE on multiple datasets, including molecular generation and optimization problems.

研究动机与目标

• 解决标准 VAE 中灵活随机解码器导致潜在代码忽略的问题。
• 通过强制执行确定性解码，改进离散序列数据中的解耦与结构化表征学习。
• 为可微训练开发 argmax 解码目标的连续松弛方法。
• 在分子生成和贝叶斯优化等下游任务中展示性能提升。
• 对有界支持提议分布下的 KL 散度与重建误差提供理论分析。

提出的方法

• 提出一种确定性解码器，通过在每一步对解码器输出分布进行 argmax 操作，选择得分最高的标记。
• 引入有界支持提议分布（如正态分布和均匀分布），以实现无损自编码，克服全支持提议分布的局限性。
• 利用 Gumbel-Softmax 技巧推导 argmax 目标函数的连续松弛，使梯度可通过确定性解码路径反向传播。
• 推导 DD-VAE 的证据下界（ELBO），并证明松弛目标函数收敛至原始问题的最优解。
• 引入温度超参数 τ 以平衡重建项与 KL 项，实验表明对 τ 进行对数线性退火可提升训练稳定性。
• 在学习到的潜在代码上使用稀疏高斯过程，实现下游任务中分子性质的贝叶斯优化。

实验结果

研究问题

• RQ1 在 VAE 中采用确定性解码是否能防止潜在代码忽略，并改善离散序列数据中的表征学习？
• RQ2 何种类型的提议分布可在确定性 VAE 中实现无损自编码？
• RQ3 如何对确定性解码中的 argmax 操作进行松弛，以实现端到端的梯度反向传播训练？
• RQ4 DD-VAE 在分子生成与性质优化等下游任务中是否优于标准 VAE？
• RQ5 不同的先验分布（正态分布 vs. 均匀分布）和松弛超参数如何影响模型性能？

主要发现

• 在 ZINC 数据集上，DD-VAE 实现了 89.89% 的序列重建准确率，优于标准 VAE 及其他基线模型，在重建与有效性方面表现更优。
• 在分子性质评分的贝叶斯优化中，采用三立方核提议分布的 DD-VAE 找到了 top-1 得分为 5.86 的分子，显著优于标准 VAE。
• 使用有界支持提议分布（如三立方核）可实现无损自编码，而全支持分布（如正态分布）则无法实现。
• 采用均匀先验的 DD-VAE 使潜在代码分布更均匀，从而在下游分类与可视化任务中表现更优。
• argmax 目标函数的连续松弛可收敛至原始非松弛问题的最优解，确保训练的稳定性和正确性。
• 与线性退火相比，对温度超参数 τ 采用对数线性退火可获得更优性能，初始 τ 值的选择需平衡重建项与 KL 项的梯度尺度。