[论文解读] Stochastic Learning for Sparse Discrete Markov Random Fields with Controlled Gradient Approximation Error

Sinong Geng, Zhaobin Kuang+3 more|PubMed|May 12, 2020

Statistical Methods and Inference参考文献 16被引用 8

一句话总结

本文提出了一种新颖的学习策略——渐近收紧（TAY），用于稀疏离散马尔可夫随机场（MRF）中的随机近端梯度（SPG）方法，通过可验证的界来控制吉布斯采样带来的梯度近似误差。TAY 自适应地调整每轮迭代的采样步数，相较于标准 SPG，在准确性和效率方面表现更优，实证结果表明，使用显著更少的采样次数即可实现相当或更优的性能。

ABSTRACT

We study the <i>L</i> ₁-regularized maximum likelihood estimator/estimation (MLE) problemfor discrete Markov random fields (MRFs), where efficient and scalable learning requires both sparse regularization and approximate inference. To address these challenges, we consider a stochastic learning framework called stochastic proximal gradient (SPG; Honorio 2012a, Atchade etal. 2014, Miasojedow and Rejchel 2016). SPG is an <i>inexact</i> proximal gradient algorithm [Schmidt et al., 2011], whose inexactness stems from the stochastic oracle (Gibbs sampling) for gradient approximation - exact gradient evaluation is infeasible in general due to the NP-hard inference problem for discrete MRFs [Koller and Friedman, 2009]. Theoretically, we provide novel <i>verifiable</i> bounds to inspect and control the quality of gradient approximation. Empirically, we propose the <i>tighten asymptotically</i> (TAY) learning strategy based on the verifiable bounds to boost the performance of SPG.

研究动机与目标

• 为解决由于推理为 NP 难问题，导致 $L_1$-正则化 MRF 学习中梯度估计不精确的挑战。
• 开发一种实用方法，利用吉布斯采样控制随机近端梯度（SPG）算法中的梯度近似误差。
• 通过基于可验证误差界的自适应调整采样步数，提升 SPG 的效率和准确性。
• 提供一种理论基础坚实、实证有效的策略，用于可扩展且稀疏的 MRF 结构学习。

提出的方法

• 推导了吉布斯采样所产生期望梯度近似误差的可验证上界，实现了误差的实时控制。
• 提出渐近收紧（TAY）学习策略，根据可验证的误差界动态调整每轮迭代的吉布斯采样步数。
• 采用随机近端梯度框架，其中梯度通过吉布斯采样近似，误差界用于指导采样努力。
• 采用一种收敛准则，通过监控期望误差的界来平衡计算成本与近似质量。
• 将该方法应用于二值成对 MRF，并通过充分统计量和参数化推广至其他模型。
• 在合成数据和真实世界数据上对方法进行了实证验证，与基线 SPG 和伪似然方法对比了 AUC 和收敛速度。

实验结果

研究问题

• RQ1 我们能否为离散 MRF 的 SPG 方法中期望梯度近似误差推导出可验证的界？
• RQ2 我们如何利用这些界在实践中提升 SPG 的效率和准确性？
• RQ3 基于误差界自适应调整采样步数的 TAY 策略，是否在结构学习中优于固定采样步数的 SPG？
• RQ4 在真实场景中，所提出的误差界与现有理论界相比有多紧？
• RQ5 TAY 是否能以远少于标准 SPG 的吉布斯采样次数，实现具有竞争力的性能？

主要发现

• TAY 在 AUC 表现上与使用 $\tau = 30$ 和 $\tau = 60$ 采样步数的 SPG 相当，但耗时显著更少。
• SPG 使用 $\tau = 1$ 时 AUC 最低，证实了采样不足会导致梯度近似质量差。
• 所提出的界（12）显著优于 Fischer [2015] 的界，在迭代过程中始终贴近实际梯度误差。
• 定理 3 中的界足够紧，可实际应用，因为实验中 TAY 仅需 $\tau$ 在十的量级。
• 在 100 个变量的 Senatve 投票数据集上，TAY 成功识别出基于政党的投票聚类，Jay Rockefeller 展现出显著的跨党派联系，与真实世界政治动态一致。
• TAY 的性能与伪似然方法相当，但其梯度近似误差控制更具理论依据。