[论文解读] Reinterpreting Importance-Weighted Autoencoders

Chris Cremer, Quaid Morris+1 more|arXiv (Cornell University)|Apr 10, 2017

Adversarial Robustness in Machine Learning被引用 45

一句话总结

本文将重要性加权自编码器（IWAE）重新解释为并非最大化更紧的证据下界，而是使用一种更复杂、隐式定义的后验分布 $\tilde{q}_{\text{IW}}$ 来优化标准 VAE 目标。关键贡献在于证明了 IWAE 过程隐式学习到一个非参数化、重要性加权的后验分布，且当 $k \to \infty$ 时该后验收敛于真实后验，并引入了 $q_{\text{EW}}$，即期望重要性加权分布，其在 KL 散度意义下被证明比原始 $q(z|x)$ 更接近真实后验。

ABSTRACT

The standard interpretation of importance-weighted autoencoders is that they maximize a tighter lower bound on the marginal likelihood than the standard evidence lower bound. We give an alternate interpretation of this procedure: that it optimizes the standard variational lower bound, but using a more complex distribution. We formally derive this result, present a tighter lower bound, and visualize the implicit importance-weighted distribution.

研究动机与目标

• 通过分析其底层隐式后验分布，将 IWAE 目标重新解释为超越最大化更紧 ELBO 的目标。
• 正式推导由多样本重要性重加权产生的隐式重要性加权后验 $\tilde{q}_{\text{IW}}$ 的形式。
• 引入 $q_{\text{EW}}$，即期望重要性加权分布，作为对基础 $q(z|x)$ 更优、已归一化的后验近似。
• 证明 $q_{\text{EW}}$ 在 KL 散度意义下比 $q(z|x)$ 更接近真实后验。
• 提供 $\tilde{q}_{\text{IW}}$ 和 $q_{\text{EW}}$ 的可视化方法与采样算法，且不引入核密度估计伪影。

提出的方法

• 通过从 $q(z|x)$ 中抽取的 $k$ 个重要性样本，推导出未归一化的隐式后验 $\tilde{q}_{\text{IW}}(z|x,z_{2:k})$，并利用重要性重加权方法。
• 证明当用 $\tilde{q}_{\text{IW}}$ 替代 $q(z|x)$ 时，IWAE 的 ELBO 与 VAE 的 ELBO 等价，且对 $z_{2:k}$ 取期望。
• 将 $q_{\text{EW}}(z|x)$ 定义为 $\tilde{q}_{\text{IW}}$ 对 $z_{2:k}$ 的期望，形成一个已归一化、非参数化的后验近似。
• 提出算法 1 用于从 $q_{\text{EW}}(z|x)$ 中采样，其等价于重要性重加权采样（SIR）。
• 提出算法 2 用于在不使用核平滑的情况下绘制 $q_{\text{EW}}(z|x)$，通过在 $z_{2:k}$ 上进行蒙特卡洛平均。
• 利用詹森不等式与 KL 散度分解，证明 $q_{\text{EW}}$ 比 $q(z|x)$ 更接近真实后验。

实验结果

研究问题

• RQ1 IWAE 目标能否被重新解释为使用更复杂、隐式后验分布来优化标准 VAE ELBO？
• RQ2 IWAE 中通过重要性重加权所诱导的隐式后验 $\tilde{q}_{\text{IW}}$ 的形式与行为是什么？
• RQ3 期望重要性加权后验 $q_{\text{EW}}$ 与真实后验在 KL 散度上的比较如何？
• RQ4 $q_{\text{EW}}$ 能否在不引入核密度估计伪影的情况下高效采样与可视化？
• RQ5 当 $k \to \infty$ 时，$\tilde{q}_{\text{IW}}$ 的极限行为是什么？

主要发现

• 当使用隐式后验 $\tilde{q}_{\text{IW}}(z|x,z_{2:k})$ 替代 $q(z|x)$ 时，IWAE 的 ELBO 在数学上等价于 VAE 的 ELBO，且对 $z_{2:k}$ 取期望。
• 期望重要性加权后验 $q_{\text{EW}}(z|x)$ 是一个已归一化的分布，且当 $k \to \infty$ 时收敛于真实后验 $p(z|x)$。
• 在 KL 散度意义下，$q_{\text{EW}}$ 与真实后验之间的距离严格小于 $q(z|x)$ 与真实后验之间的距离，即 $KL(q_{\text{EW}}||p) \leq KL(q||p)$。
• 隐式后验 $\tilde{q}_{\text{IW}}$ 依赖于特定的 $z_{2:k}$ 样本批次，且为未归一化形式，但其期望可生成已归一化的 $q_{\text{EW}}$。
• 算法 2 通过在多个 $z_{2:k}$ 批次上进行平均，无需核平滑即可实现 $q_{\text{EW}}$ 的精确、无伪影可视化。
• 随着 $k$ 增大，$q_{\text{EW}}$ 作为真实后验的近似变得越来越紧密，如二维与一维可视化所示。