[논문 리뷰] Poisson-Minibatching for Gibbs Sampling with Convergence Rate Guarantees

Ruqi Zhang, Christopher De|arXiv (Cornell University)|2019. 11. 21.

Markov Chains and Monte Carlo Methods인용 수 6

한 줄 요약

이 논문은 상태에 따라 변하는 미니배치를 사용하고 메트로폴리스-해스팅스 보정을 피함으로써 이산 및 연속 그래픽 모델에서 편향 없이 효율적인 샘플링을 가능하게 하는 새로운 게이블스 샘플링 방법인 포아송-미니배치 게이블스를 제안한다. 스펙트럼 갭 경계를 통한 이론적 수렴 속도 보장과 함께 기존의 미니배치 방법보다 더 빠른 반복 계산을 달성하면서도 전체 게이블스 샘플링의 성능을 유지한다.

ABSTRACT

Gibbs sampling is a Markov chain Monte Carlo method that is often used for learning and inference on graphical models. Minibatching, in which a small random subset of the graph is used at each iteration, can help make Gibbs sampling scale to large graphical models by reducing its computational cost. In this paper, we propose a new auxiliary-variable minibatched Gibbs sampling method, {\it Poisson-minibatching Gibbs}, which both produces unbiased samples and has a theoretical guarantee on its convergence rate. In comparison to previous minibatched Gibbs algorithms, Poisson-minibatching Gibbs supports fast sampling from continuous state spaces and avoids the need for a Metropolis-Hastings correction on discrete state spaces. We demonstrate the effectiveness of our method on multiple applications and in comparison with both plain Gibbs and previous minibatched methods.

연구 동기 및 목표

• 대규모 그래픽 모델에서 게이블스 샘플링의 높은 계산 비용을 해결하기 위해 효율적인 미니배칭을 가능하게 하기 위해.
• 이산 상태 게이블스 샘플링에서 비용이 많이 드는 메트로폴리스-해스팅스 보정 단계를 제거하기 위해 상태에 따라 변하는 미니배칭을 통해.
• 기존 방법이 지원하지 못했던 연속 상태 공간으로 미니배치 게이블스 샘플링을 확장하기 위해.
• 일반 게이블스 샘플링에 비해 스펙트럼 갭을 경계함으로써 이론적 수렴 속도 보장을 제공하기 위해.
• 기존의 미니배치 게이블스 변형보다 더 낮은 반복 계산 비용을 가지면서도 샘플링 정확도를 유지하는 실용적인 알고리즘을 설계하기 위해.

제안 방법

• 현재 상태에 따라 달라지는 포아송 분포를 따르는 미니배치를 사용하여, 메트로폴리스-해스팅스 보정 없이도 세부 균형과 역행성을 보장한다.
• 연속 변수의 확률 밀도 함수에 다항식 근사를 적용하여 빠른 역변환 샘플링을 수행한다.
• 연속 상태 공간에서 조건부 분포를 효율적으로 근사하기 위해 체비셰프 보간법을 적용한다.
• 스펙트럼 갭에 대한 이론적 경계를 유도하여 일반 게이블스 샘플링에 비해 수렴 속도를 정량화한다.
• 두 가지 연속 샘플링 변형을 도입한다: 역변환 샘플링을 사용하는 PGITS와 효율성을 향상시키기 위한 이중 근사를 사용하는 PGDA.
• 요소가 에너지 함수에 기여하는 현재 기여도에 따라 포함될 확률이 결정되는 상태에 따라 변하는 미니배칭을 사용한다.

실험 결과

연구 질문

• RQ1 미니배치 게이블스 샘플러가 메트로폴리스-해스팅스 보정 없이도 편향 없고 정확한가?
• RQ2 스토크래틱스 추정을 통해 게이블스 샘플링을 연속 상태 공간으로 효율적으로 확장할 수 있는가?
• RQ3 전체 게이블스 샘플링에 비해 미니배치 게이블스 알고리즘의 이론적 수렴 속도 보장은 무엇인가?
• RQ4 전체 게이블스 샘플링의 수렴 속도에 가까운 성능을 달성하기 위해 최적의 미니배치 크기는 무엇인가?
• RQ5 상태에 따라 변하는 미니배칭이 편향 없이 보정 단계 없이도 반복 계산 비용을 줄일 수 있는가?

주요 결과

• 포아송-미니배치 게이블스는 메트로폴리스-해스팅스 보정 없이 편향 없는 샘플링을 달성하며, 이로 인해 이산 설정에서 반복 계산 비용이 O(DΨ²)에서 O(DL²)로 감소한다.
• 다항식 근사를 사용하는 빠른 역변환 샘플링을 통해 연속 상태 공간을 지원하여, 거부 샘플링이 너무 느린 곳에서도 효율적인 샘플링을 가능하게 한다.
• 연속 모델의 경우 PGDA는 N이 클 경우 거부 샘플링의 O(NΔ)보다 훨씬 빠른 O(L² log L)의 반복 계산 비용을 달성한다.
• 적절히 선택된 미니배치 크기를 사용할 경우 이론적 경계에 의해 포아송-게이블스의 수렴 속도가 일반 게이블스 샘플링에 임의로 가까워질 수 있음을 보여준다.
• 실험 결과는 포아송-게이블스가 전체 게이블스 샘플링의 샘플링 정확도를 유지하면서도 반복 계산량을 줄였음을 입증한다.
• 이 방법은 이산 및 연속 모델 모두에서 효과적이며, 조건부 정규 혼합 모델과 같은 사례에서도 진짜 분포와 밀도 추정 결과가 매우 유사하게 나타남을 보여준다.