[논문 리뷰] John's Walk

Adam Gustafson, Hariharan Narayanan|arXiv (Cornell University)|2018. 03. 06.

Point processes and geometric inequalities참고 문헌 12인용 수 5

한 줄 요약

이 논문은 볼록체 $Σ \subset \mathbb{R}^n$ 에서 균일 샘플링을 위한 애핀-불변 랜덤 워크를 제안하며, 제안 분포로 존의 타원체를 사용한다. 따뜻한 시작 조건에서 $χ(n^7)$ 혼합 시간을 달성하고, $n$ 에 대해 다항식적으로 유계인 현수비율 조건이 만족될 경우 임의의 점에서부터 다항식 혼합 시간을 보장하여, 존의 타원체를 사용한 첫 번째 이러한 혼합 시간 경계를 제공한다.

ABSTRACT

We present an affine-invariant random walk for drawing uniform random samples from a convex body $\mathcal{K} \subset \mathbb{R}^n$ that uses maximum volume inscribed ellipsoids, known as John's ellipsoids, for the proposal distribution. Our algorithm makes steps using uniform sampling from the John's ellipsoid of the symmetrization of $\mathcal{K}$ at the current point. We show that from a warm start, the random walk mixes in $\widetilde{O}(n^7)$ steps where the log factors depend only on constants associated with the warm start and desired total variation distance to uniformity. We also prove polynomial mixing bounds starting from any fixed point $x$ such that for any chord $pq$ of $\mathcal{K}$ containing $x$, $\left|\log \frac{|p-x|}{|q-x|} ight|$ is bounded above by a polynomial in $n$.

연구 동기 및 목표

• 볼록체에서 균일 샘플링을 위한 애핀-불변 랜덤 워크를 개발하며, 제안 분포로 존의 타원체를 사용한다.
• 따뜻한 시작 조건에서 랜덤 워크의 다항식 혼합 시간 경계를 확립한다.
• 로그형 현수비율이 $n$ 에 대해 다항식적으로 유계인 고정된 점에서 시작할 경우, 다항식 혼합 시간을 증명한다.
• 고차원 볼록집합에서 효율적인 샘플링을 위한 이론적 기반을 제공한다. 이는 존의 타원체의 기하적 성질을 활용한다.

제안 방법

• 알고리즘은 현재 점에서 대칭화된 볼록체의 최대 부피를 갖는 내접 타원체(존의 타원체)를 제안 분포로 사용한다.
• 각 단계에서, 랜덤 워크는 대칭화된 집합의 존의 타원체에서 균일하게 랜덤으로 새로운 점을 제안한다.
• 볼록체 $\mathcal{K}$ 의 대칭화로 인해 제안 메커니즘은 애핀 불변성을 확보한다.
• 이 방법은 존의 타원체의 기하적 성질에 기반하여 애핀 변환에 대해 불변성을 유지한다.
• 혼합 시간은 총변동 거리와 초기 분포에 관련된 상수를 포함하는 따뜻한 시작 조건을 사용하여 분석된다.
• 혼합 시간 분석은 현수의 길이 비율 $|\log(|p-x|/|q-x|)|$ 의 경계를 포함하여, 임의의 시작점에서부터의 다항식 혼합 시간을 확립한다.

실험 결과

연구 질문

• RQ1 존의 타원체를 사용하는 애핀-불변 랜덤 워크가 볼록체에서 효율적인 혼합을 달성할 수 있는가?
• RQ2 따뜻한 분포에서 시작할 경우, 이러한 워크의 혼합 시간은 얼마인가?
• RQ3 어떤 기하적 조건에서 시작점이 다항식 시간 내에 혼합되는가?
• RQ4 현수비율 경계는 랜덤 워크의 혼합 시간과 어떻게 관련되는가?
• RQ5 존의 타원체를 제안 분포로 사용할 경우, 기존 방법에 비해 향상된 이론적 보장을 얻을 수 있는가?

주요 결과

• 따뜻한 시작 조건에서 랜덤 워크는 $\widetilde{O}(n^7)$ 단계 내에 혼합되며, 로그 인자들은 따뜻한 시작 상수와 목표 정밀도에만 의존한다.
• 시작점이 모든 현수 $pq$ 에 대해 $|\log(|p-x|/|q-x|)| \leq \text{poly}(n)$ 를 만족할 경우 혼합 시간은 $n$ 에 대해 다항식이다.
• 알고리즘은 애핀-불변이며, 볼록체의 선형 변환에 대해 성질을 유지한다.
• 존의 타원체 사용은 제안 분포에 대해 최적의 기하적 근사치를 보장한다.
• 이 분석은 존의 타원체를 사용하는 랜덤 워크에 대해 처음으로 다항식 혼합 경계를 확립한다.
• 결과적으로 존의 타원체는 고차원 볼록집합에서 효율적인 샘플링 알고리즘 설계에 강력한 도구임을 보여준다.