[논문 리뷰] Sublinear-Time Approximate MCMC Transitions for Probabilistic Programs

Yutian Chen, Vikash K. Mansinghka외 1명|arXiv (Cornell University)|2014. 11. 06.

Markov Chains and Monte Carlo Methods참고 문헌 10인용 수 3

한 줄 요약

이 논문은 회귀 모형과 상태공간 모형과 같은 강하게 결합된 모형에서 효율적인 추론을 가능하게 하기 위해, 동적으로 구축된 확률적 실행 트레이스(PET) 그래프에서 간선을 부분 샘플링함으로써 잠재 변수 갱신을 위한 비선형 시간 근사 메트로폴리스-하스팅스 알고리즘을 제안한다. 이 방법은 정확한 MCMC에 비해 오차가 거의 없이 최대 10배 빠른 속도를 달성하며, 베이지안 로지스틱 회귀, 비모수 혼합 모형, 스토하스틱 볼라티리티 모형을 포함한 다양한 응용 분야에서 정확성을 유지한다.

ABSTRACT

Probabilistic programming languages can simplify the development of machine learning techniques, but only if inference is sufficiently scalable. Unfortunately, Bayesian parameter estimation for highly coupled models such as regressions and state-space models still scales poorly; each MCMC transition takes linear time in the number of observations. This paper describes a sublinear-time algorithm for making Metropolis-Hastings (MH) updates to latent variables in probabilistic programs. The approach generalizes recently introduced approximate MH techniques: instead of subsampling data items assumed to be independent, it subsamples edges in a dynamically constructed graphical model. It thus applies to a broader class of problems and interoperates with other general-purpose inference techniques. Empirical results, including confirmation of sublinear per-transition scaling, are presented for Bayesian logistic regression, nonlinear classification via joint Dirichlet process mixtures, and parameter estimation for stochastic volatility models (with state estimation via particle MCMC). All three applications use the same implementation, and each requires under 20 lines of probabilistic code.

연구 동기 및 목표

• 데이터 크기에 비례해 선형적으로 증가하는 표준 MCMC 전이 방식으로 인해 회귀 모형과 상태공간 모형과 같은 강하게 결합된 모형에서 베이지안 추론의 확장성에 대한 한계를 해결하기 위해.
• 기존의 i.i.d. 데이터 부분 샘플링을 초월하여, 동적으로 구축된 그래픽 모델(PET)의 종속성(간선)을 부분 샘플링하는 방식으로 근사 MCMC 기법을 일반화하기 위해.
• 일반적인 확률적 프로그래밍 프레임워크에 비선형 근사 MH 전이를 통합하여 기존 추론 알고리즘과의 상호운용성을 보장하기 위해.
• 이전 연구보다 더 온건한 조건 하에서 근사 마르코프 체인의 정규성(ergodicity)을 엄밀하게 증명하고, 근사 매개변수 값이 0에 수렴함에 따라 편향이 사라짐을 보여주기 위해.
• 최소한의 코드 오버헤드로 실제 응용 분야의 다양한 확률적 프로그래밍 문제에 대해 방법의 효율성과 정확성을 실증적으로 검증하기 위해.

제안 방법

• 프로그램 실행 중 랜덤 변수 간의 종속성을 추적하기 위해 확률적 실행 트레이스(PET) 그래프를 구성함으로써, 연관 밀도의 인수 분해를 가능하게 한다.
• 데이터 항목을 부분 샘플링하는 대신, PET 그래프의 간선을 부분 샘플링하여 종속성을 무작위로 무시함으로써 계산 비용을 감소시킨다.
• 정확한 전이를 사용하는 다른 변수들과는 달리, 고도의 종속성 정도를 가진 잠재 변수(예: 회귀나 상태공간 모형의 매개변수)에 대해서만 근사 MH 전이를 선택적으로 적용한다.
• 근사 전이가 충분히 정확한지 판단하기 위해 제어 매개변수 ε를 기반으로 순차적 검증 테스트를 사용한다.
• 고차원 확률적 프로그래밍 시스템에 통합되어 기존의 입자 기반 지그문드(Particle Gibbs) 및 HMC와 같은 추론 전략과 원활하게 통합 가능하다.
• 빠른 근사 갱신이 전체 추론 스케줄에 지배적이지 않도록, 변수 간 계산 시간을 보정하기 위해 step_z 매개변수를 사용한다.

실험 결과

연구 질문

• RQ1 i.i.d. 데이터 부분 샘플링의 범위를 초월하여, 강하게 결합된 잠재 변수를 가진 확률적 프로그램에 대해 비선형 시간 근사 MCMC 전이를 설계할 수 있는가?
• RQ2 동적으로 구축된 PET 그래프에서 간선 부분 샘플링이 온건한 조건 하에서도 원래 MCMC 체인의 정규성 및 수렴 성질을 유지하는가?
• RQ3 비선형 근사 MH의 단일 구현이 파rametric 및 비모수 모형을 포함한 다양한 확률적 모형에 대해 최소한의 코드 변경으로 효과적으로 적용될 수 있는가?
• RQ4 강한 잠재 상태 종속성이 있는 모형에서, 유의미한 편향을 유발하지 않고 추론 효율성이 얼마나 향상되는가?
• RQ5 다양한 모델 유형에서 정확한 MH 대비 비선형 근사 MH의 성능은 효과적인 표본 크기(ESS) 매 초 및 수렴 속도 측면에서 어떻게 비교되는가?

주요 결과

• 비선형 근사 MH 알고리즘은 베이지안 로지스틱 회귀와 공동 딜리슈트 프로세스 혼합 모형에서 정확한 MH 대비 최대 10배 빠른 속도를 달성했으며, 정확도에 유의미한 손실가 없었다.
• 스토하스틱 볼라티리티 모형에서는 잠재 상태의 혼합 속도가 느리더라도 정확한 MH 대비 약 2배 높은 효율성을 달성했으며, 샘플이 기준 분포와 매우 유사했다.
• 실증 결과로 비선형 전이 단위 계산 비용이 관측 수에 대해 비선형적으로 증가하는 경향을 확인했으며, 이는 계산 비용이 관측 수에 비례해 선형적으로 증가하지 않음을 의미한다.
• 비선형 방법에서 추출한 매개변수(φ 및 σ)의 히스토GRAM은 정확한 MH와 매우 유사했으며, ε = 1e-3일 때 편향이 거의 없음을 시사한다.
• 비선형 방법의 효과적인 표본 크기(ESS) 매 초는 모델 복잡도와 데이터 크기에 따라 2배에서 10배까지 유의미하게 높았다.
• 모든 세 가지 응용 분야—베이지안 로지스틱 회귀, 비모수 혼합 모형, 스토하스틱 볼라티리티—에서 정확성이 유지되었으며, 각 사례에서 20줄 이내의 확률적 코드로 구현되었다.