[논문 리뷰] Discrepancy bounds for uniformly ergodic Markov chain quasi-Monte Carlo

Josef Dick, Daniel Rudolf외 1명|arXiv (Cornell University)|2013. 03. 11.

Mathematical Approximation and Integration참고 문헌 32인용 수 7

한 줄 요약

이 논문은 i.i.d. 균일 난수 대신 결정론적 드라이버 수열을 사용하여 균일하게 에르고딕인 마르코프 체인의 이질성 한계를 수립한다. 확률적 구성 프레임워크 하에, 경험 분포가 목표 분포로 수렴하는 속도가 $\mathcal{O}(n^{-1/2} \log^{1/2} n)$임을 증명하며, 이는 표준 몬테카를로 속도에 가까운 것으로, 아직 명시적인 수열 생성 방법은 제공되지 않았다.

ABSTRACT

Markov chains can be used to generate samples whose distribution approximates a given target distribution. The quality of the samples of such Markov chains can be measured by the discrepancy between the empirical distribution of the samples and the target distribution. We prove upper bounds on this discrepancy under the assumption that the Markov chain is uniformly ergodic and the driver sequence is deterministic rather than independent $U(0,1)$ random variables. In particular, we show the existence of driver sequences for which the discrepancy of the Markov chain from the target distribution with respect to certain test sets converges with (almost) the usual Monte Carlo rate of $n^{-1/2}$.

연구 동기 및 목표

• i.i.d. 균일 난수 대신 결정론적 드라이버 수열을 사용하는 마르코프 체인 준몬테카를로(MCMC) 방법의 수렴 속도를 분석하기 위해.
• 균일하게 에르고딕인 마르코프 체인의 경험 분포와 정적분포 사이의 이론적 이질성 한계를 수립하기 위해.
• 적절한 결정론적 드라이버 수열 하에서 수렴 속도가 표준 몽테카를로 속도인 $n^{-1/2}$에 로그 인자까지 근접할 수 있음을 보여주기 위해.
• 마르코프 체인 출력에서 낮은 이질성을 유도하는 드라이버 수열을 특성화하는 '풀백 이질성' 기준을 개발하기 위해.
• 향후 확률적 및 경험 과정 기법을 활용해 이러한 드라이버 수열의 명시적 구성에 대한 이론적 기반을 마련하기 위해.

제안 방법

• 경험 분포와 목표 분포 사이의 이질성이 작아지는 결정론적 드라이버 수열 $(u_i)_{1\leq i\leq n}$ 가 존재함을 증명하기 위해 확률적 방법을 사용한다.
• 경험 과정에 대한 허프딩 부등식과 글리언 및 옴오네이트의 결과를 적용하여 큰 이질성 발생 확률를 제한한다.
• 탈라그란드의 농도 불등식과 하우슬러의 커버링 수 제약 조건을 활용하여 시험 집합 클래스의 복잡도를 제어한다.
• 단위 입방체 내 드라이버 수열의 이질성과 마르코프 체인 상태의 이질성 간 관계를 연결하기 위해 '풀백 이질성' 개념을 도입한다.
• Borel 집합의 클래스 $\mathscr{A} \subseteq \mathcal{B}(G)$ 에 대해 일반화된 콜모고로프-스미르노프 검정을 통해 이질성을 분석한다.
• 유클리드 공간 $\mathbb{R}^d$ 내에서 구면 캡 커버링 및 체적 추정을 사용하여 커버링 수를 제한하고, 시험 집합 클래스의 메트릭 엔트로피를 제어한다.

실험 결과

연구 질문

• RQ1 결정론적 드라이버 수열을 사용할 경우, 균일하게 에르고딕인 마르코프 체인의 경험 분포와 정적분포 사이의 이질성이 유계가 될 수 있는가?
• RQ2 균일 에르고드성 조건 하에서 이러한 이질성 한계의 최선의 가능한 수렴 속도는 무엇인가?
• RQ3 마르코프 체인 준몬테카를로 방법의 수렴 속도가 표준 몽테카를로 속도인 $n^{-1/2}$에 도달할 수 있는가?
• RQ4 마르코프 체인 출력에서 낮은 이질성을 유도하는 드라이버 수열을 특성화하는 기준이 존재하는가?
• RQ5 이러한 드라이버 수열의 명시적 구성은 이론적 한계로부터 유도될 수 있는가?

주요 결과

• 모든 $n$에 대해, 경험 분포와 목표 분포 사이의 이질성이 $\mathcal{O}(n^{-1/2} \log^{1/2} n)$ 속도로 수렴하는 결정론적 드라이버 수열 $(u_i)_{1\leq i\leq n}$ 가 존재한다.
• 이 수렴 속도는 표준 몽테카를로 속도인 $n^{-1/2}$에 매우 가까워, 준몬테카를로 방법이 결정론적 드라이버를 사용할 경우 유사한 정밀도를 달성할 수 있음을 시사한다.
• 이러한 수열의 존재성은 허프딩 부등식과 경험 과정에 대한 농도 불등식을 활용한 확률적 추론을 통해 증명된다.
• 마르코프 체인 상태의 이질성이 [0,1]^s 내 드라이버 수열의 '풀백 이질성'과 밀접하게 관련되어 있음이 입증된다.
• 단위 구면에서의 구면 캡 커버링을 활용한 커버링 수 추론을 통해 시험 집합 클래스의 메트릭 엔트로피를 제한하고, 최종 이질성 수렴 속도를 도출한다.
• 증명 과정은 드라이버 수열의 명시적 구성은 제공하지 않지만, 그러한 수열이 만족해야 할 기준(풀백 이질성)을 제시한다.