[論文レビュー] Stochastic Learning for Sparse Discrete Markov Random Fields with Controlled Gradient Approximation Error

Sinong Geng, Zhaobin Kuang+3 more|PubMed|May 12, 2020

Statistical Methods and Inference参考文献 16被引用数 8

ひとこと要約

本稿では、Gibbsサンプリングからの勾配近似誤差を制御する検証可能な境界を用いて、スパースな離散マルコフ確率場（MRF）における確率的近接勾配（SPG）のための新しい学習戦略、Tighten Asymptotically（TAY）を提案する。TAYは反復ごとのサンプリングステップ数を適応的に調整し、標準的なSPGに比べて高い精度と効率性を達成する。実験結果では、はるかに少ないサンプル数で同等または優れた性能を示している。

ABSTRACT

We study the <i>L</i> ₁-regularized maximum likelihood estimator/estimation (MLE) problemfor discrete Markov random fields (MRFs), where efficient and scalable learning requires both sparse regularization and approximate inference. To address these challenges, we consider a stochastic learning framework called stochastic proximal gradient (SPG; Honorio 2012a, Atchade etal. 2014, Miasojedow and Rejchel 2016). SPG is an <i>inexact</i> proximal gradient algorithm [Schmidt et al., 2011], whose inexactness stems from the stochastic oracle (Gibbs sampling) for gradient approximation - exact gradient evaluation is infeasible in general due to the NP-hard inference problem for discrete MRFs [Koller and Friedman, 2009]. Theoretically, we provide novel <i>verifiable</i> bounds to inspect and control the quality of gradient approximation. Empirically, we propose the <i>tighten asymptotically</i> (TAY) learning strategy based on the verifiable bounds to boost the performance of SPG.

研究の動機と目的

• L1正則化付きMRF学習におけるNP困難な推論に起因する不正確な勾配推定の課題に対処すること。
• Gibbsサンプリングを用いた確率的近接勾配（SPG）アルゴリズムにおける勾配近似誤差を制御する実用的な手法を開発すること。
• 検証可能な誤差境界に基づいて、反復ごとのサンプリングステップ数を適応的に調整することで、SPGの効率性と精度を向上させること。
• スケーラブルでスパースなMRF構造学習に理論的裏付けがあり、実験的にも有効な戦略を提供すること。

提案手法

• Gibbsサンプリングからの期待勾配近似誤差の検証可能な上界を提案し、リアルタイムでの誤差制御を可能にする。
• 検証可能な誤差境界に基づいて、反復ごとのGibbsサンプリングステップ数を動的に調整するTighten Asymptotically（TAY）学習戦略を導入する。
• 勾配をGibbsサンプリングで近似する確率的近接勾配フレームワークを採用し、誤差境界をサンプリングの努力を導くために使用する。
• 期待誤差の境界を監視することで、計算コストと近似品質のバランスを取る収束基準を採用する。
• 2値のペアワイズMRFに適用し、十分統計量とパrameterizationを用いて他のモデルへ一般化する。
• 合成データおよび実世界データを用いて、AUCと収束速度の観点から、ベースラインのSPGおよび疑似尤度法と比較して、手法の実験的妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 離散MRFにおけるSPGの期待勾配近似誤差について、検証可能な境界を導出できるか？
• RQ2 これらの境界をどのように活用することで、実際のSPGの効率性と精度を向上させられるか？
• RQ3 誤差境界に基づいてサンプリングステップ数を適応的に調整するTAY戦略は、固定サンプリングのSPGに比べて構造学習で優れた性能を示すか？
• RQ4 実世界のシナリオにおいて、提案された誤差境界は既存の理論的境界と比べてどれほどタイトか？
• RQ5 TAYは、標準的なSPGに比べてはるかに少ないGibbsサンプルで、競争力のある性能を達成できるか？

主な発見

• TAYは、$\tau = 30$ および $\tau = 60$ のサンプリングステップを用いたSPGと同等のAUC性能を達成するが、はるかに少ない時間で実現している。
• SPGで $\tau = 1$ を使用した場合、AUCが最低となり、サンプリングが不十分なために勾配近似が不正確であることが確認された。
• 提案された境界（12）は、Fischerの[2015]の境界よりも顕著にタイトであり、反復全体にわたり実際の勾配誤差に近い値を維持している。
• 定理3の境界は実用的に十分にタイトであり、実験ではTAYが$\tau$を十のオーダーにとどめるだけでよかった。
• 100変数のSenatve投票データセットでは、TAYは政党別投票クラスタを正しく同定した。Jay Rockefellerは、実世界の政治的ダイナミクスと整合するように、強力な跨政党関係を示した。
• TAYは疑似尤度法と同等の性能を達成したが、勾配近似誤差制御のより原理的で整合性のあるアプローチを採用している。