[논문 리뷰] Modified log-Sobolev inequalities for strong-Rayleigh measures

Jonathan Hermon, Justin Salez|arXiv (Cornell University)|2019. 02. 07.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 강한 레이일리보다 더 약한 부정적 종속 조건인 스토하스틱 커버링 성질(SCP)을 만족하는 이원체 \\{0,1\\}^n 상의 수리적 마코프 체인에 대해 일반적인 수정 로그-소볼레프 부등식을 수립한다. 주요 기여는 $k$-균일 측도 조건 하에서 혼합 시간 상한이 $kn\log\log\frac{1}{\pi(x)}$ 이내임을 보이며, MCMC를 통한 농도 및 샘플링 응용에 기여한다.

ABSTRACT

We establish universal modified log-Sobolev inequalities for reversible Markov chains on the boolean lattice $\{0,1\}^n$, under the only assumption that the invariant law $π$ satisfies a form of negative dependence known as the stochastic covering property. This condition is strictly weaker than the strong Rayleigh property, and is satisfied in particular by all determinantal measures, as well as any product measure over the set of bases of a balanced matroid. In the special case where $π$ is $k-$homogeneous, our results imply the celebrated concentration inequality for Lipschitz functions due to Pemantle & Peres (2014). As another application, we deduce that the natural Monte-Carlo Markov Chain used to sample from $π$ has mixing time at most $kn\log\log\frac{1}{π(x)}$ when initialized in state $x$. To the best of our knowledge, this is the first work relating negative dependence and modified log-Sobolev inequalities.

연구 동기 및 목표

• 이원체 상의 마코프 체인에 대해 부정적 종속 조건 하에서 일반적인 함수 부등식을 개발하기 위해.
• 이전에 탐색되지 않은 부정적 종속성과 수정 로그-소볼레프 부등식 사이의 격차를 메우기 위해.
• $k$-균일 및 스토하스틱 커버링 성질 조건 하에서 MCMC 샘플러의 명시적 혼합 시간 상한을 도출하기 위해.
• 수정 로그-소볼레프 프레임워크를 통해 리프시츠 함수에 대한 페만틀-페르스 농도 부등식을 복원 및 일반화하기 위해.
• 좌표 평균화를 통한 구조적 방법을 제시하여 일관된 스펙트럼 및 함수적 상한을 갖는 생성자 구축하기 위해.

제안 방법

• 강한 레이일리보다 더 약한 부정적 종속 조건인 스토하스틱 커버링 성질(SCP)을 도입하여, 결정식 및 균형 잡힌 매트로이드 측도를 포함한다.
• 각 좌표 $\ell$ 에 대해 $x_\ell$ 의 값에 기반한 분할 기반으로 플립-스위치 생성자 $Q^{(\ell)}$ 를 구성하여 $\lambda(Q^{(\ell)}), \alpha(Q^{(\ell)}) \geq 1$ 이고 $\Delta(Q^{(\ell)}) \leq n$ 임을 보장한다.
• 모든 좌표에 대해 생성자를 평균하여 $Q^\star = \frac{1}{n}\sum_{\ell=1}^n Q^{(\ell)}$ 를 형성하고, 스펙트럼 및 함수적 상한을 유지한다.
• 헤르스트의 추론을 사용하여 수정 로그-소볼레프 부등식에서 초정규 농도를 유도하고, $\alpha(Q)$ 를 이차 변동 $v(f)$ 를 통해 尾 확률 상한과 연결한다.
• 함수적 부등식을 적용하여 혼합 시간 상한 $t_{\textsc{mix}}(x;\varepsilon) \leq \frac{1}{\alpha(Q)}\left(\log\log\frac{1}{\pi(x)} + \log\frac{1}{2\varepsilon^2}\right)$ 을 도출한다.
• $k$-균일 측도 $\pi$ 에 대해 생성자 $Q^\star$ 가 $-Q^\star(x,x) \leq 2k$ 를 만족함을 보여 최종 혼합 시간 상한 $kn\log\log\frac{1}{\pi(x)}$ 를 확보한다.

실험 결과

연구 질문

• RQ1 강한 레이일리보다 더 약한 부정적 종속 조건 하에서 이원체 상의 수리적 마코프 체인에 대해 수정 로그-소볼레프 부등식을 수립할 수 있는가?
• RQ2 스토하스틱 커버링 성질(SCP)이 MCMC 샘플러에 대해 일반적인 함수 부등식 및 혼합 시간 상한을 도출하는 데 충분한가?
• RQ3 리프시츠 함수에 대한 페만틀-페르스 농도 부등식은 수정 로그-소볼레프 부등식을 통해 복원 및 일반화할 수 있는가?
• RQ4 SCP 조건 하에서 $k$-균일 측도를 목표로 하는 MCMC 샘플러의 최적 혼합 시간 상한은 무엇인가?
• RQ5 좌표별 생성자를 어떻게 평균화하여 일관된 스펙트럼 및 함수적 상한을 갖는 전역 생성자 $Q^\star$ 를 도출할 수 있는가?

주요 결과

• 논문은 $\{0,1\}^n$ 상의 수리적 마코프 체인에 대해 그 불변 측도 $\pi$ 가 스토하스틱 커버링 성질을 만족할 경우, 수정 로그-소볼레프 부등식을 수립한다.
• $k$-균일 측도의 경우, 초기 상태 $x$ 에서 생성된 MCMC 샘플러의 혼합 시간은 $kn\log\log\frac{1}{\pi(x)}$ 이내이며, 이는 이전의 상한보다 향상된 것이다.
• 헤르스트의 추론을 적용하여 최대 한쪽 방향 이차 변동 $v(f)$ 에 의존하는 분산 추정치를 갖는 초정규 농도 부등식을 도출한다.
• 스토하스틱 커버링 성질이 강한 레이일리 성질보다 엄밀히 더 약한 것으로 밝혀졌지만, 바람직한 함수적 부등식을 유도하는 데에 충분하다.
• 좌표별 생성자 $Q^{(\ell)}$ 의 구성 및 그 평균화를 통한 $Q^\star$ 형성으로 인해 수정 로그-소볼레프 상수 $\alpha(Q^\star) \geq 1$ 에 대해 균일한 하한이 보장된다.
• 프레임워크는 $\pi$ 가 $k$-균일일 경우 페만틀-페르스 농도 부등식을 특수 케이스로 복원함으로써, 이 접근의 일반성과 강도를 입증한다.