[논문 리뷰] Stochastic Learning for Sparse Discrete Markov Random Fields with Controlled Gradient Approximation Error

Sinong Geng, Zhaobin Kuang외 3명|PubMed|2020. 05. 12.

Statistical Methods and Inference참고 문헌 16인용 수 8

한 줄 요약

이 논문은 희소 이산 마르코프 무작위장수(MRF)에서 확률적 프락시멀 그래디언트(SP G)를 위한 새로운 학습 전략인 점점 더 강화되는 점근적(TAY)을 제안한다. 이 전략은 견적 가능한 경계를 사용하여 지그문스 샘플링에서 기인하는 그래디언트 근사 오차를 제어한다. TAY는 반복마다 샘플링 단계를 적응적으로 조정하여 표준 SPG보다 더 높은 정확도와 효율성을 달성한다. 실험 결과는 훨씬 적은 수의 샘플을 사용함에도 불구하고 유사하거나 더 나은 성능을 보였다.

ABSTRACT

We study the <i>L</i> ₁-regularized maximum likelihood estimator/estimation (MLE) problemfor discrete Markov random fields (MRFs), where efficient and scalable learning requires both sparse regularization and approximate inference. To address these challenges, we consider a stochastic learning framework called stochastic proximal gradient (SPG; Honorio 2012a, Atchade etal. 2014, Miasojedow and Rejchel 2016). SPG is an <i>inexact</i> proximal gradient algorithm [Schmidt et al., 2011], whose inexactness stems from the stochastic oracle (Gibbs sampling) for gradient approximation - exact gradient evaluation is infeasible in general due to the NP-hard inference problem for discrete MRFs [Koller and Friedman, 2009]. Theoretically, we provide novel <i>verifiable</i> bounds to inspect and control the quality of gradient approximation. Empirically, we propose the <i>tighten asymptotically</i> (TAY) learning strategy based on the verifiable bounds to boost the performance of SPG.

연구 동기 및 목표

• L1-정규화된 MRF 학습에서 NP-어려운 추론으로 인한 근사된 그래디언트 추정 문제를 해결하기 위해.
• 지그문스 샘플링을 사용하여 확률적 프락시멀 그래디언트(SPG) 알고리즘의 그래디언트 근사 오차를 제어할 수 있는 실용적인 방법을 개발하기 위해.
• 견적 가능한 오차 경계를 기반으로 샘플링 단계를 적응적으로 조정하여 SPG의 효율성과 정확도를 향상시키기 위해.
• 확장 가능하고 희소한 MRF 구조 학습을 위한 이론적으로 탄탄하고 실험적으로 효과적인 전략을 제공하기 위해.

제안 방법

• 지그문스 샘플링에서 기인하는 기대 그래디언트 근사 오차에 대한 검증 가능한 상한 경계를 제안하여 실시간 오차 제어를 가능하게 한다.
• 검증 가능한 오차 경계를 기반으로 반복마다 샘플링 단계 수를 동적으로 조정하는 점점 더 강화되는 점근적(TAY) 학습 전략을 도입한다.
• 그래디언트를 지그문스 샘플링을 통해 근사하는 확률적 프락시멀 그래디언트 프레임워크를 사용하며, 오차 경계를 기반으로 샘플링 노력의 지침을 제공한다.
• 기대 오차의 경계를 모니터링하여 계산 비용과 근사 품질의 균형을 이루는 수렴 기준을 적용한다.
• 이진 이원 MRF에 적용하고, 충분 통계 및 매개변수화를 통해 다른 모델로 일반화한다.
• 합성 및 실세계 데이터에서 실험적으로 방법을 검증하며, 기준 SPG 및 가짜 가능성 방법과 AUC 및 수렴 속도를 비교한다.

실험 결과

연구 질문

• RQ1 이산 MRF의 SPG에서 기대 그래디언트 근사 오차에 대해 검증 가능한 경계를 유도할 수 있는가?
• RQ2 이러한 경계를 어떻게 활용하여 실무에서 SPG의 효율성과 정확도를 향상시킬 수 있는가?
• RQ3 오차 경계를 기반으로 샘플링 단계를 적응적으로 조정하는 TAY 전략이 고정된 샘플링 SPG보다 구조 학습에서 뛰어난 성능을 보일 수 있는가?
• RQ4 실세계 상황에서 제안된 오차 경계는 기존 이론적 경계보다 얼마나 날카로운가?
• RQ5 TAY는 표준 SPG보다 훨씬 적은 지그문스 샘플로 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• TAY는 $\tau = 30$ 및 $\tau = 60$ 샘플링 단계를 사용한 SPG와 유사한 AUC 성능을 달성하지만, 훨씬 적은 시간에 수행된다.
• SPG에서 $\tau = 1$을 사용할 경우 가장 낮은 AUC를 기록하여, 샘플링 수가 부족할 경우 그래디언트 근사가 열악해지는 것을 확인한다.
• 제안된 경계(12)는 피셔[2015]의 경계보다 훨씬 날카롭게 유지되며, 반복 과정 전반에 걸쳐 실제 그래디언트 오차에 가까이 유지된다.
• 정리 3의 경계는 실용적 사용에 충분히 날카로워, 실험에서 TAY가 $\tau$를 대략 수십 수준으로만 요구한다.
• 100개 변수를 가진 Senatve 투표 데이터셋에서 TAY는 정당 기반 투표 클러스터를 성공적으로 식별하였으며, 제이 루크록펠더는 다당파적 연결을 보이며 실제 정치적 동적 상황과 일치한다.
• TAY는 더 이론적으로 탄탄한 그래디언트 근사 오차 제어 접근 방식을 취함으로써 가짜 가능성 방법과 유사한 성능을 달성한다.