[论文解读] Properties of the Stochastic Approximation EM Algorithm with Mini-batch Sampling

Tabea Rebafka, Estelle Kuhn+1 more|arXiv (Cornell University)|Jul 22, 2019

Markov Chains and Monte Carlo Methods参考文献 19被引用 1

一句话总结

该论文提出了一种用于大规模潜变量模型的MCMC-SAEM算法的小批量变体，通过使用子采样数据的随机近似方法加速收敛。该方法证明了在指数族分布下的几乎必然收敛性，并表明小批量采样能显著加快初期收敛速度，同时量化了批量大小与渐近方差之间的权衡。

ABSTRACT

To deal with very large datasets a mini-batch version of the Monte Carlo Markov Chain Stochastic Approximation Expectation-Maximization algorithm for general latent variable models is proposed. For exponential models the algorithm is shown to be convergent under classicalconditions as the number of iterations increases. Numerical experiments illustrate the performance of the mini-batch algorithm in various models.In particular, we highlight that mini-batch sampling results in an important speed-up of the convergence of the sequence of estimators generated by the algorithm. Moreover, insights on the effect of the mini-batch size on the limit distribution are presented. Finally, we illustrate how to use mini-batch sampling in practice to improve results when a constraint on the computing time is given.

研究动机与目标

• 通过引入小批量采样策略，解决经典EM和MCMC-SAEM算法在超大规模数据集上的计算瓶颈问题。
• 通过在每次迭代中对数据和潜变量进行子采样，在不牺牲估计精度的前提下提高计算效率。
• 研究小批量大小对参数估计收敛速度和渐近方差的影响。
• 为在固定计算时间约束下使用小批量采样提供实用指导。
• 证明在计算时间受限时，小批量采样可优于全批量方法，尤其是在结合更大样本量时。

提出的方法

• 提出一种MCMC-SAEM算法的小批量版本，每次迭代仅对部分潜变量及其关联数据进行采样。
• 使用吉布斯内梅特罗波利斯-哈斯廷斯（Metropolis-Hastings-within-Gibbs）MCMC方案，仅对选定的小批量数据模拟潜变量。
• 通过仅使用小批量数据来更新充分统计量，应用随机近似方法，从而降低每次迭代的计算成本。
• 通过保持原始方法的遍历性和收敛性特性，确保该算法仍为有效的MCMC-SAEM。
• 在随机近似中使用递减步长，以维持一致性和几乎必然收敛性。
• 通过在指数族模型（包括随机块模型和脆弱性模型）上的数值实验分析算法行为。

实验结果

研究问题

• RQ1 在指数族模型的标准条件下，小批量MCMC-SAEM算法是否几乎必然收敛？
• RQ2 小批量大小如何影响参数估计在初始迭代阶段的收敛速度？
• RQ3 小批量比例与最终估计量的渐近方差之间存在何种关系？
• RQ4 在固定计算时间约束下，小批量采样是否能提升估计精度，相比批量方法？
• RQ5 在具有复杂依赖结构的模型中，每次迭代的实际计算时间如何随小批量大小变化？

主要发现

• 在指数族模型的经典条件下，小批量MCMC-SAEM算法被证明会几乎必然收敛到真实参数值。
• 数值实验表明，与全批量版本相比，使用小批量时算法初始阶段的收敛速度显著加快。
• 估计量的渐近方差与小批量大小成反比，其理论极限方差为V₁(2−α)/α，其中α为小批量比例。
• 参数估计的经验样本方差与预测函数α ↦ v₁(2−α)/α高度吻合，支持了渐近正态性的猜想。
• 在如随机块模型等模型中，由于依赖结构的存在，更新步骤中实际使用的数据比例不等于小批量大小，导致计算时间呈现非线性变化。
• 在固定计算时间下，结合小批量采样与更大样本量，可获得比标准批量方法更精确的估计，尤其当M步计算成本较高时。