[논문 리뷰] Convergence of MCMC and Loopy BP in the Tree Uniqueness Region for the Hard-Core Model

Charilaos Efthymiou, Thomas P. Hayes외 3명|arXiv (Cornell University)|2016. 04. 05.

Markov Chains and Monte Carlo Methods참고 문헌 26인용 수 5

한 줄 요약

이 논문은 최대 차수 $ \Delta \geq \Delta_0 $ 이고 둘레가 7 이상인 그래프에서 하드코어 모델의 분할 함수에 대해 $ \lambda < \lambda_c(\Delta) $ 일 때 $ O^*(n^2) $ 실행 시간을 가지는 FPRAS를 수립한다. 그레일러 동역학의 빠른 혼합성은 $ O(n\log n) $ 단계 내에서 증명되며, BP 연산자의 주요 고유벡터를 사용한 새로운 수축 추론을 통해 루프가 있는 BP가 깁스 분포로 수렴함을 보였다.

ABSTRACT

We study the hard-core model defined on independent sets of an input graph where the independent sets are weighted by a parameter $λ&gt;0$. For constant $Δ$, previous work of Weitz (2006) established an FPTAS for the partition function for graphs of maximum degree $Δ$ when $λ&lt; λ_c(Δ)$. The threshold $λ_c(Δ)$ is the critical point for the phase transition for uniqueness/non-uniqueness on the infinite $Δ$-regular trees. Sly (2010) showed that there is no FPRAS, unless NP=RP, when $λ&gt;λ_c(Δ)$. The running time of Weitz's algorithm is exponential in $\log(Δ)$. Here we present an FPRAS for the partition function whose running time is $O^*(n^2)$. We analyze the simple single-site Glauber dynamics for sampling from the associated Gibbs distribution. We prove there exists a constant $Δ_0$ such that for all graphs with maximum degree $Δ\geqΔ_0$ and girth $\geq 7$, the mixing time of the Glauber dynamics is $O(n\log(n))$ when $λ

연구 동기 및 목표

• 고유한 둔기와 큰 최대 차수를 가진 그래프에서 하드코어 모델의 분할 함수에 대한 효율적인 근사 알고리즘을 개발하기.
• 특히 $ \lambda < \lambda_c(\Delta) $ 일 때 트리 유일성 영역에서 그레일러 동역학의 빠른 혼합성을 증명하기.
• BP 연산자의 주요 고유벡터를 사용한 새로운 수축 추론을 통해 루프가 있는 BP와 깁스 분포 사이의 엄밀한 연결 고리를 확립하기.
• 그레일러 동역학이 짧은 버닝 인 기간 이후 국소적으로 BP 고정점으로 수렴함을 보이기.
• 상수 $ \Delta $를 초월하여 $ \Delta $ 가 $ n $ 과 함께 증가하는 경우에도 효율적인 알고리즘의 적용 가능성을 확장하기.

제안 방법

• BP 연산자의 주요 고유벡터를 기반으로 한 거리 함수를 설계하여 마코프 체인 상태 간의 수렴을 측정하기.
• 이 거리 함수가 BP 고정점 근처의 상태 쌍에 대해 기대값에서 수축함을 증명하여 빠른 혼합성을 확보하기.
• 둔기 $ \geq 7 $ 인 그래프에서 '국소 균일성' 성질을 이용해 차단되지 않은 이웃 수의 변동성을 제어하기.
• 그레일러 동역학이 국소적으로 루프가 있는 BP를 근사함을 분석하여 수렴 보장을 이전 알고리즘으로 이전하기.
• 루프가 있는 BP 고정점이 $ \lambda < \lambda_c(\Delta) $ 이고 둔기 $ \geq 6 $ 일 때 깁스 분포에 가까운 근사임을 보장하기.
• 랜덤 $ \Delta $-정규 이분 그래프에 이 방법을 적용하여, $ \Delta \geq \Delta_0 $ 일 때 빠른 혼합성이 높은 확률로 성립함을 보여주기.

실험 결과

연구 질문

• RQ1 최대 차수 $ \Delta $ 가 $ n $ 과 함께 증가하더라도 $ n $ 에 대해 다항식 종속성을 가지는 하드코어 모델에 대한 FPRAS를 설계할 수 있는가?
• RQ2 둔기와 $ \Delta \geq \Delta_0 $ 인 그래프에서 그레일러 동역학이 $ O(n\log n) $ 단계 내에 혼합되는가?
• RQ3 트리 유일성 영역에서 루프가 있는 BP가 깁스 분포로 빠르게 수렴함을 엄밀히 증명할 수 있는가?
• RQ4 체인이 BP 고정점 근처일 때 그레일러 동역학 하에서 수축하는 새로운 거리 함수가 존재하는가?
• RQ5 짧은 순환의 영향은 혼합 시간에 어떤 영향을 미치며, 약간의 순환 제약 조건 하에서 둔기 요구 조건을 완화할 수 있는가?

주요 결과

• 최대 차수 $ \Delta \geq \Delta_0 $, 둔기 $ \geq 7 $, $ \lambda < \lambda_c(\Delta) $ 조건에서 하드코어 모델 분할 함수에 대해 $ O^*(n^2) $ 실행 시간을 가지는 FPRAS를 달성하였다. 이는 $ \log \Delta $ 에 대해 지수적 의존성을 가지는 Weitz의 알고리즘보다 향상된 결과이다.
• 모든 최대 차수 $ \Delta \geq \Delta_0 $, 둔기 $ \geq 7 $, $ \lambda < \lambda_c(\Delta) $ 인 그래프에서 그레일러 동역학은 $ O(n\log n) $ 단계 내에 혼합된다.
• 루프가 있는 BP는 $ \lambda < \lambda_c(\Delta) $ 이고 둔기 $ \geq 6 $ 일 때 빠르게 깁스 분포로 수렴한다. 이는 그레일러 동역학이 국소적으로 BP 고정점으로 수렴하기 때문이다.
• BP 연산자의 주요 고유벡터를 활용한 새로운 수축 추론을 통해 그레일러 동역학의 빠른 혼합성을 증명할 수 있었다.
• 랜덤 $ \Delta $-정규 이분 그래프에서 $ \Delta \geq \Delta_0 $ 일 때 혼합 시간 상한이 높은 확률로 성립한다. 이는 희박한 짧은 순환 때문이며, 이는 혼합 시간의 안정성을 보장한다.
• 각 정점당 최대 $ \ell $ 개의 짧은 순환(길이 < 7)이 존재하는 그래프로 결과를 확장할 수 있으며, 이때 $ \ell $ 는 유계이면서 $ \Delta $ 가 충분히 크면 성립한다.