[논문 리뷰] Convergence of hybrid slice sampling via spectral gap

Krzysztof Łatuszyński, Daniel Rudolf|arXiv (Cornell University)|2014. 09. 09.

Markov Chains and Monte Carlo Methods참고 문헌 30인용 수 8

한 줄 요약

이 논문은 단순 슬라이스 샘플러의 스펙트럴 갭에 대한 함수로 하이브리드 슬라이스 샘플러의 스펙트럴 갭에 대한 경계를 유도하여 하이브리드 슬라이스 샘플링에 대한 이론적 수렴 보장을 수립한다. 기하학적 에르고딕성과 양의 스펙트럴 갭—빠른 혼합의 핵심 지표—이 단순 버전으로부터 유전됨을 증명함으로써, 정확한 슬라이스 내 균일 샘플링이 불가능한 복잡한 대상에 대해서도 강력하고 효율적인 샘플링이 가능해진다.

ABSTRACT

It is known that the simple slice sampler has robust convergence properties, however the class of problems where it can be implemented is limited. In contrast, we consider hybrid slice samplers which are easily implementable and where another Markov chain approximately samples the uniform distribution on each slice. Under appropriate assumptions on the Markov chain on the slice we show a lower bound and an upper bound of the spectral gap of the hybrid slice sampler in terms of the spectral gap of the simple slice sampler. An immediate consequence of this is that spectral gap and geometric ergodicity of the hybrid slice sampler can be concluded from spectral gap and geometric ergodicity of its simple version which is very well understood. These results indicate that robustness properties of the simple slice sampler are inherited by (appropriately designed) easily implementable hybrid versions. We apply the developed theory and analyse a number of specific algorithms such as the stepping-out shrinkage slice sampling, hit-and-run slice sampling on a class of multivariate targets and an easily implementable combination of both procedures on multidimensional bimodal densities.

연구 동기 및 목표

• 사용은 널리 이루어지지만 이론적으로 이해가 부족한 하이브리드 슬라이스 샘플러에 대한 이론적 수렴 분석의 부족을 해결하기 위해.
• 단순 슬라이스 샘플러의 강력한 수렴 성질이 하이브리드 버전으로 유전되는 조건을 설정하기 위해.
• 기본 단순 슬라이스 샘플러의 스펙트럴 갭에 기반하여 하이브리드 샘플러의 스펙트럴 갭에 대한 명시적 하한 및 상한을 제공하기 위해.
• 단순 샘플러가 이러한 조건을 만족할 경우 기하학적 에르고딕성과 분산 유 bounds 성질이 하이브리드 샘플러로 유지됨을 보여주기 위해.
• 멀티모달 대상에서의 스텝아웃 셸링, 히트-앤드-런, 그리고 하이브리드 조합과 같은 구체적 알고리즘에 이 те론을 검증하기 위해.

제안 방법

• 함수해석학을 사용하여 마코프 연산자 $P$의 스펙트럴 갭을 $\text{gap}(P) = 1 - \|P\|_{L^2_0,\pi \to L^2_0,\pi}$ 로 정의한다. 여기서 $L^2_0,\pi$ 는 평균이 0이고 제곱 적분 가능한 함수의 공간이다.
• 연산자 노름 부등식과 스펙트럴 이론을 적용하여, 함수 공간 간의 유계 선형 연산자 $R$ 을 통해 하이브리드 샘플러의 스펙트럴 갭을 단순 슬라이스 샘플러의 스펙트럴 갭과 연결한다.
• 슬라이스에서의 마코프 커널의 연산자 노름과 단순 샘플러의 스펙트럴 갭을 이용하여 하이브리드 체인의 스펙트럴 갭에 대한 경계를 도출한다.
• 기하학적 에르고딕성의 지표로 스펙트럴 갭을 사용하며, 양의 스펙트럴 갭이 기하학적 에르고디시티와 중심극한정리의 타당성을 암시한다는 알려진 결과를 활용한다.
• 특정 하이브리드 알고리즘(예: 스텝아웃 셸링, 히트-앤드-런)을 분석하기 위해 슬라이스를 탐색하는 마코프 체인이 만족해야 할 조건을 검증한다.
• 슬라이스에서의 마코프 체인이 가역적이며, 0에서 멀리 떨어진 스펙트럴 갭을 가진다면, 약간의 조건 하에 하이브리드 샘플러도 이 성질을 물려받는다.

실험 결과

연구 질문

• RQ1 하이브리드 슬라이스 샘플러의 스펙트럴 갭은 해당 단순 슬라이스 샘플러의 스펙트럴 갭에 대해 경계를 가질 수 있는가?
• RQ2 단순 슬라이스 샘플러의 기하학적 에르고딕성이 하이브리드 대응체의 기하학적 에르고딕성으로 이어지는 조건은 무엇인가?
• RQ3 분산 유 bounds 성질과 중심극한정리의 타당성은 단순 샘플러에서 하이브리드 샘플러로 이행되는가?
• RQ4 이 이론적 프레임워크는 다변량 대상에서의 스텝아웃 셸링 또는 히트-앤드-런과 같은 특정 하이브리드 알고리즘에 적용될 수 있는가?
• RQ5 스펙트럴 갭 경계의 정량적 영향은 하이브리드 샘플링에서 비점근 수렴 속도에 어떤가?

주요 결과

• 하이브리드 슬라이스 샘플러의 스펙트럴 갭은 단순 슬라이스 샘플러의 스펙트럴 갭에 대해 하한 및 상한으로 경계지어지며, 이는 좋은 혼합 성질이 유지됨을 보장한다.
• 단순 슬라이스 샘플러가 양의 스펙트럴 갭을 가진다면, 슬라이스에서의 마코프 체인이 적절한 에르고딕성과 가역성 조건을 만족할 경우 하이브리드 버전 역시 양의 스펙트럴 갭을 가진다.
• 단순 슬라이스 샘플러의 기하학적 에르고딕성이 하이브리드 샘플러의 기하학적 에르고딕성으로 이어지며, 이는 전체 변동 거리에서 지수 수렴을 보장한다.
• 하이브리드 샘플러에 대해 $\|\nu P^n - \pi\|_{\text{tv}} \leq (1 - \text{gap}(P))^n \left\| \frac{d\nu}{d\pi} - 1 \right\|_2$ 라는 경계가 성립하며, 이는 비점근 수렴 제어를 가능하게 한다.
• 표본 평균에 대해 분산 유 bounds $\mathbb{E}\left|\frac{1}{n}\sum f(X_j) - \int f \, d\pi\right|^2 \leq \frac{2}{n \cdot \text{gap}(P)} + \cdots$ 가 유효하며, 스펙트럴 갭에 명시적인 의존성이 있다.
• 이 이론은 다변량 대상에서의 스텝아웃 셸링, 히트-앤드-런, 그리고 하이브리드 이중모달 샘플러에 성공적으로 적용되었으며, 실질적으로 강력한 수렴이 확인되었다.