[논문 리뷰] Fast MCMC sampling algorithms on polytopes

Yuansi Chen, Raaz Dwivedi외 2명|arXiv (Cornell University)|2017. 10. 23.

Markov Chains and Monte Carlo Methods참고 문헌 45인용 수 31

한 줄 요약

이 논문은 다면체 위에서 균일한 표본을 생성하기 위한 두 가지 새로운 마르코프 체인 몬테카를로(MCMC) 샘플링 알고리즘—바이디아 워크와 존 워크—를 소개한다. 내부점 방법에서 유래한 부피-로그arithmic 및 존의 타원체 장벽을 활용하여, 바이디아 워크는 $\mathcal{O}(n^{0.5}d^{1.5})$의 혼합 시간을 달성하며, 기존의 딕린 워크의 $\mathcal{O}(nd)$ bound보다 크게 향상되었고, 단계당 계산 비용은 유사하게 유지된다.

ABSTRACT

We propose and analyze two new MCMC sampling algorithms, the Vaidya walk and the John walk, for generating samples from the uniform distribution over a polytope. Both random walks are sampling algorithms derived from interior point methods. The former is based on volumetric-logarithmic barrier introduced by Vaidya whereas the latter uses John's ellipsoids. We show that the Vaidya walk mixes in significantly fewer steps than the logarithmic-barrier based Dikin walk studied in past work. For a polytope in $\mathbb{R}^d$ defined by $n >d$ linear constraints, we show that the mixing time from a warm start is bounded as $\mathcal{O}(n^{0.5}d^{1.5})$, compared to the $\mathcal{O}(nd)$ mixing time bound for the Dikin walk. The cost of each step of the Vaidya walk is of the same order as the Dikin walk, and at most twice as large in terms of constant pre-factors. For the John walk, we prove an $\mathcal{O}(d^{2.5}\cdot\log^4(n/d))$ bound on its mixing time and conjecture that an improved variant of it could achieve a mixing time of $\mathcal{O}(d^2\cdot ext{polylog}(n/d))$. Additionally, we propose variants of the Vaidya and John walks that mix in polynomial time from a deterministic starting point. The speed-up of the Vaidya walk over the Dikin walk are illustrated in numerical examples.

연구 동기 및 목표

• 다면체 위에서 균일 분포에 대한 더 빠른 MCMC 샘플링 알고리즘을 개발함으로써, 제약 조건 수 $n$이 차원 $d$에 비해 클 경우에 특히 유용하게 만들기.
• 기존 알고리즘인 딕린 워크와 같이 $n$에 대해 선형으로 증가하는 제약을 가지는 한계를 해결하기 위해, $n$에 대해 비선형 의존성을 갖는 방법을 설계함.
• 특히 바이디아의 부피 장벽과 존의 타원체를 포함한 내부점 방법의 기하학적 구조를 활용하여, 더 효율적인 제안 분포를 설계함.
• 기존 방법과 비교하여 새로운 알고리즘의 혼합 시간 경계를 엄밀히 증명함으로써, 고차원 환경에서 더 빠른 혼합 시간을 확보함.
• 결정론적 시작점에서부터 다항 혼합 시간을 달성하는 변형을 제안함으로써 실용적 사용성을 향상시킴.

제안 방법

• 바이디아의 부피-로그arithmic 장벽에 기반한 무작위 보행인 바이디아 워크를 제안하며, 이는 표준 로그 장벽보다 다면체 기하학을 더 정확하게 국소적으로 근사함.
• 존 타원체를 사용하여 존 워크의 국소 공분산 구조를 정의함으로써, 고차원에서 더 뛰어난 등방성과 더 빠른 수렴을 가능하게 함.
• 스펙트럼 갭 분석과 기하학적 농도 원리에 기반하여 혼합 시간 경계를 유도하며, 장벽 함수와 다면체 기하학 간의 관계를 활용함.
• 목표 분포에 가까운 분포에서 시작하는 온난한 시작 프레임워크를 적용하여 혼합 시간 경계를 유한하게 하고 수렴 보장을 향상시킴.
• 총변동 거리와 부피 비율, 장벽 성질을 연결하기 위해 집합 $\mathcal{S}_1', \mathcal{S}_2', \mathcal{S}_3'$ 을 포함하는 새로운 커플링 추론을 도입함.
• 전이 핵심의 대칭성과 쌍대성 성질, 예를 들어 $\Phi(\mathcal{S}) = \Phi(\mathcal{K} \setminus \mathcal{S})$ 를 증명하기 위해 분석에 핵심적인 부등식을 유도함.

실험 결과

연구 질문

• RQ1 MCMC 샘플링이 제약 조건 수 $n$에 대해 비선형인 혼합 시간을 달성할 수 있는가?
• RQ2 더 정교한 장벽 함수를 사용할 경우 바이디아 워크의 혼합 시간은 딕린 워크의 $\mathcal{O}(nd)$ 경계와 어떻게 비교되는가?
• RQ3 존의 타원체 기반 제안 분포는 표준 로그 장벽 방법보다 더 빠른 혼합을 이끌 수 있는가?
• RQ4 존 워크의 이론적 혼합 시간은 무엇이며, $\mathcal{O}(d^2 \cdot \text{poly-log}(n/d))$ 수준으로 향상시킬 수 있는가?
• RQ5 제안된 워크는 온난한 시작이 아닌 결정론적 시작점에서부터 다항 혼합 시간을 달성할 수 있는가?

주요 결과

• 바이디아 워크는 온난한 시작에서 $\mathcal{O}(n^{0.5}d^{1.5})$의 혼합 시간을 달성하며, 딕린 워크의 $\mathcal{O}(nd)$ 경계보다 향상됨.
• 바이디아 워크의 단계당 비용은 딕린 워크와 유사하며, 상수 계수의 최대 두 배 이내로 증가함.
• 존 워크의 혼합 시간 경계는 $\mathcal{O}(d^{2.5} \cdot \log^4(n/d))$ 이며, 개선된 변형이 $\mathcal{O}(d^2 \cdot \text{poly-log}(n/d))$ 를 달성할 수 있을 것으로 추측됨.
• 바이디아 워크와 존 워크의 변형을 구성하여 결정론적 시작점에서부터 다항 혼합 시간을 달성함.
• 수치 예제를 통해 실질적으로 바이디아 워크가 딕린 워크보다 빠른 성능을 보임.
• 이론적 분석은 새로운 커플링 추론과 전이 핵심의 대칭성 성질에 기반하며, 부피 비율과 총변동 거리 간의 핵심 부등식을 확립함.