[논문 리뷰] Markov chain methods for small-set expansion

Ryan O’Donnell, David Witmer|arXiv (Cornell University)|2012. 04. 20.

Markov Chains and Monte Carlo Methods참고 문헌 14인용 수 3

한 줄 요약

이 논문은 열화된 그래프 분할 결과를 단순화하고 일반화하기 위해 열화 연산자와 π-내적을 사용한 연속시간 마르코프 체인 방법을 제안한다. 특히 소작업 확장 문제에 대해 적용된다. 스테우어의 스펙트럴 프로파일 개선 결과에 대한 새로운 간결한 증명을 제공하며, Φ_G(16k^{-1+1/A}) ≤ 2√A·√(λ_k log_k n) 를 도출한다. 이 결과는 비정규 및 방향 그래프로까지 확장되며, 소작업 확장 문제에 대한 근사 알고리즘을 유도한다.

ABSTRACT

Consider a finite irreducible Markov chain with invariant distribution $π$. We use the inner product induced by $π$ and the associated heat operator to simplify and generalize some results related to graph partitioning and the small-set expansion problem. For example, Steurer showed a tight connection between the number of small eigenvalues of a graph's Laplacian and the expansion of small sets in that graph. We give a simplified proof which generalizes to the nonregular, directed case. This result implies an approximation algorithm for an "analytic" version of the Small-Set Expansion Problem, which, in turn, immediately gives an approximation algorithm for Small-Set Expansion. We also give a simpler proof of a lower bound on the probability that a random walk stays within a set; this result was used in some recent works on finding small sparse cuts.

연구 동기 및 목표

• 스펙트럴 그래프 분할에서 이산시간 랜덤 워크와 게으른 마르코프 체인의 한계를 극복하고자 하며, 특히 비정규 및 방향 그래프에 대해 적용 가능하도록 한다.
• 연속시간 랜덤 워크를 사용하여 비정규 및 방향 그래프로까지 스테우어의 스펙트럴 프로파일 개선 결과와 소작업 확장 문제를 일반화하고자 한다.
• 마르코프 체인 기법을 활용하여 소작업 확장과 라플라시안 고유값 간의 관계를 더 단순하고 통합적인 방식으로 증명하고자 한다.
• 연속시간 랜덤 워크를 이용해 집합 내에 머무르는 확률에 대해 더 강력한 하한을 제공함으로써 이전의 이산시간 결과를 개선하고자 한다.
• 분석적 소작업 확장 문제에 대한 근사 알고리즘을 개발하고자 하며, 이는 원래 문제에 대한 알고리즘을 유도한다.

제안 방법

• 음의 고유값을 피하고 게으른 전이가 필요 없도록 하기 위해 연속시간 랜덤 워크와 관련된 열화 연산자 H_t = exp(-tL)를 사용한다.
• 불변 분포 π를 사용하여 π-내적을 정의함으로써 비정규 그래프에 직접 분석이 가능하도록 한다.
• 이산시간 워크를 연속시간 워크로 대체하여 고유값 분석을 단순화하고, 비대칭 또는 비정규 그래프에서 발생하는 기술적 문제를 피한다.
• 집합 S 내에 머무르는 확률을 분석하기 위해 S에 제한된 전이 연산자 K_S와 관련 라플라시안 L_S를 정의한다.
• 열화 연산자의 스펙트럴 분해에 코ーシ의 부등식을 적용하여 랜덤 워크의 생존 확률에 하한을 도출한다.
• 스펙트럴 프로파일 Λ_G(r)와 그 전도도 Φ_G(r)와의 관계를 활용하여 소작업 확장에 대한 하한을 유도한다.

실험 결과

연구 질문

• RQ1 소작업 확장과 고유값 간의 관계를 정규 그래프를 초월해 더 단순하고 일반적으로 증명할 수 있는가?
• RQ2 비정규 및 방향 그래프에 대해 고유값의 고차원 정보를 바탕으로 소작업의 전도도에 대한 가장 날카로운 하한은 무엇인가?
• RQ3 연속시간 마르코프 체인을 사용하여 랜덤 워크가 집합 내에 머무르는 확률을 더 엄밀하게 유계로 제시할 수 있는가?
• RQ4 마르코프 체인 기법을 활용해 분석적 소작업 확장 문제를 효과적으로 근사할 수 있는가?
• RQ5 k가 클 경우 알려진 Θ(√log k) 요소가 고차원 체거 부등식에서 어떻게 개선될 수 있는가?

주요 결과

• 스테우어의 개선된 결과에 대한 새로운 간결한 증명이 제시된다: 임의의 A ≥ 3에 대해 강한 연결 그래프(비정규 및 방향 그래프 포함)에서 Φ_G(16k^{-1+1/A}) ≤ 2√A·√(λ_k log_k n) 이 성립한다.
• k가 충분히 클 경우, Φ_G(k^{-0.999}) ≤ O(√(λ_k log_k n)) 이며, 이는 큰 k에 대해 √log k 요소를 제거함을 의미한다.
• 스펙트럴 프로파일 Λ_G(r) 는 Λ_G(r) ≤ 2Φ_G(r)^2 를 만족하며, 본 논문은 연속시간 워크를 통해 이를 직접 유도하는 방법을 제공한다.
• 연속시간 랜덤 워크의 생존 확률에 대한 새로운 하한이 확립된다: 임의의 집합 S에 대해 C(t,S) ≥ exp(-tΦ[S]) 이다.
• 결과적으로 분석적 소작업 확장 문제에 대한 근사 알고리즘이 도출되며, 이는 원래 문제에 대한 알고리즘을 유도한다.
• 증명 기법은 게으른 워크가 필요 없으며 원래 그래프에 직접 적용 가능하여, 이전 방법에서 그래프 수정이 필요로 하는 점을 단순화한다.