[论文解读] Learning Implicit Generative Models Using Differentiable Graph Tests

Josip Djolonga, Andreas Krause|arXiv (Cornell University)|Sep 4, 2017

Graph Theory and Algorithms参考文献 22被引用 5

一句话总结

本文通过使用无向图模型和矩阵树定理对经典两样本图检验——Friedman-Rafsky检验与k近邻检验——的组合统计量进行平滑处理，提出了其可微分版本。所得的平滑检验具有可微性、渐近正态性，且在统计功效上显著优于经典版本，从而能够通过随机优化有效训练隐式生成模型，提升生成样本质量。

ABSTRACT

Recently, there has been a growing interest in the problem of learning rich implicit models - those from which we can sample, but can not evaluate their density. These models apply some parametric function, such as a deep network, to a base measure, and are learned end-to-end using stochastic optimization. One strategy of devising a loss function is through the statistics of two sample tests - if we can fool a statistical test, the learned distribution should be a good model of the true data. However, not all tests can easily fit into this framework, as they might not be differentiable with respect to the data points, and hence with respect to the parameters of the implicit model. Motivated by this problem, in this paper we show how two such classical tests, the Friedman-Rafsky and k-nearest neighbour tests, can be effectively smoothed using ideas from undirected graphical models - the matrix tree theorem and cardinality potentials. Moreover, as we show experimentally, smoothing can significantly increase the power of the test, which might of of independent interest. Finally, we apply our method to learn implicit models.

研究动机与目标

• 为解决隐式生成模型训练中因无法计算密度而导致的挑战，通过支持基于梯度的优化。
• 通过可微分平滑，使非可微的两样本检验——Friedman-Rafsky与k-NN——兼容随机优化。
• 通过平滑提升经典图基两样本检验的统计功效，增强其在模型训练中的实用性。
• 证明平滑检验在生成建模任务中（如MNIST和模拟分布）能生成更高质量的样本。

提出的方法

• 利用无向图模型中的基数势函数和矩阵树定理，对Friedman-Rafsky与k-NN检验的组合统计量进行平滑处理。
• 通过温度控制的软最大平滑方法对生成树进行积分，构建检验统计量的可微分近似。
• 在较弱条件下推导出平滑检验的t统计量，其渐近正态，支持可靠推断。
• 将平滑t统计量用作可微分损失函数，通过随机梯度下降（如Adam）优化深度生成模型的参数。
• 通过在生成数据与真实数据样本上最大化平滑检验统计量的期望值，应用该方法训练隐式模型。
• 使用置换检验估计p值，并验证在平滑条件下原假设分布的正态性。

实验结果

研究问题

• RQ1 非可微的两样本图检验能否被改造为兼容隐式生成模型端到端训练？
• RQ2 使用无向图模型对检验统计量进行平滑，能否提升经典图基检验的统计功效？
• RQ3 平滑后的检验统计量能否在保持渐近正态性和一致性的同时实现可微分？
• RQ4 在检验功效和生成模型质量方面，平滑检验与MMD及经典检验相比表现如何？
• RQ5 平滑参数λ对模型收敛性和样本质量有何影响？

主要发现

• 在高维设置下，平滑后的Friedman-Rafsky与k-NN检验在统计功效上显著优于其经典版本，尤其在尺度替代情形下表现更优。
• 随着λ减小，平滑检验统计量的原假设分布更趋近于正态分布，验证了t统计量近似的有效性，并提升了优化稳定性。
• 在两个月牙数据集上，减小λ可生成结构更清晰、更对称且更易分离的样本，更贴近真实数据分布。
• 在MNIST数据集上，所学习的模型生成的数字在质量上可与使用MMD训练的模型相媲美，尽管仅使用原始像素距离且未进行网络架构修改。
• 在尺度位移替代情形下，平滑检验的统计功效高于MMD，证明其在检测细微分布差异方面的优势。
• 该方法使基于梯度的优化能有效训练隐式模型，损失函数具备可微性，且可适配标准深度学习框架。