[论文解读] Statistical Inference for Generative Models with Maximum Mean Discrepancy

François‐Xavier Briol, Alessandro Barp+2 more|arXiv (Cornell University)|Jun 13, 2019

Markov Chains and Monte Carlo Methods参考文献 106被引用 35

一句话总结

本文为不可观测生成模型开发最小 MMD 估计量，分析其一致性、渐近正态性与鲁棒性，并提出一种自然梯度类的优化方法以实现高效推断。

ABSTRACT

While likelihood-based inference and its variants provide a statistically efficient and widely applicable approach to parametric inference, their application to models involving intractable likelihoods poses challenges. In this work, we study a class of minimum distance estimators for intractable generative models, that is, statistical models for which the likelihood is intractable, but simulation is cheap. The distance considered, maximum mean discrepancy (MMD), is defined through the embedding of probability measures into a reproducing kernel Hilbert space. We study the theoretical properties of these estimators, showing that they are consistent, asymptotically normal and robust to model misspecification. A main advantage of these estimators is the flexibility offered by the choice of kernel, which can be used to trade-off statistical efficiency and robustness. On the algorithmic side, we study the geometry induced by MMD on the parameter space and use this to introduce a novel natural gradient descent-like algorithm for efficient implementation of these estimators. We illustrate the relevance of our theoretical results on several classes of models including a discrete-time latent Markov process and two multivariate stochastic differential equation models.

研究动机与目标

• 为不可观测、难以计算似然的生成模型提供推断动机。
• 提出使用最大均值差异（MMD）来比较模型分布和数据分布的最小距离框架。
• 分析最小 MMD 估计量的统计性质，包括一致性、渐近正态性和鲁棒性。
• 研究核函数的选择与几何如何影响泛化性能和效率。
• 基于信息几何思想（自然梯度）开发一个用于基于 MMD 的推断的高效优化算法。

提出的方法

• 通过在再生核希尔伯特空间中使用核均值嵌入来定义模型分布和数据分布之间的 MMD。
• 通过最小化 P_theta 与经验数据分布 Q^m 之间的 MMD^2 来形成最小 MMD 估计量。
• 推导用于 SGD 的 U-statistic 梯度估计量，以在不计算不可积积分的情况下更新 theta。
• 引入一种使用核诱导参数空间的黎曼度量的随机自然梯度下降算法。
• 讨论一种将梯度流与近端式更新联系起来的全隐式离散化，以提高鲁棒性。
• 将最小 MMD 估计量与核评分准则及其相应的散度联系起来。

实验结果

研究问题

• RQ1 如何在不可观测生成模型中使用距离基准而非似然来进行统计推断？
• RQ2 在 M-closed 与 M-open 设置下，最小 MMD 估计量的理论性质（包括一致性、渐近正态性和鲁棒性）是什么？
• RQ3 核函数的选择如何影响估计量的泛化界、效率和鲁棒性？
• RQ4 自然梯度或信息几何方法是否能为基于 MMD 的推断提供计算上高效的优化？
• RQ5 最小 MMD 估计量在潜在马尔可夫过程和随机微分方程等模型上的实际意义和性能如何？

主要发现

• 在适当假设下，最小 MMD 估计量在 M-closed 设置中是一致且渐近正态的。
• 在 M-open 设置中建立了估计量的鲁棒性，给出定性与定量的鲁棒性结果。
• MMD 估计量的泛化界具有维度鲁棒性，收敛速率为 m^{-1/2}（在 n,m 设置中为 n^{-1/2}），并含有明确的与核相关的常数。
• 核选择，包括高斯核和核混合，在效率与鲁棒性之间权衡，且中值尺度的启发式方法可以缓解维度效应。
• 基于 MMD 信息几何的随机自然梯度下降算法在这些估计量上相较于标准 SGD 提供了计算上的提升。
• 对离散时间潜在马尔可夫过程和多变量 SDE 的应用，体现了理论的实际相关性。