[논문 리뷰] An Efficient Sampling Algorithm for Non-smooth Composite Potentials

Wenlong Mou, Nicolas Flammarion외 2명|arXiv (Cornell University)|2019. 10. 01.

Markov Chains and Monte Carlo Methods참고 문헌 60인용 수 14

한 줄 요약

이 논문은 형태 $\pi(x) \propto \exp(-f(x) - g(x))$의 비스무스 복합 잠재확률 분포에 대한 새로운 메트로폴리스-해스팅스 샘플링 알고리즘을 제안한다. 여기서 $f$는 스무스하고 강력한 볼록 함수이며, $g$는 볼록하고 리프시츠 연속 함수이다. 이 방법은 모어우-요시다 정규화에 영감을 받은 프록시멀 기반 제안 분포를 사용하며, 전체 변동 거리 기준 혼합 시간이 $O(d\log(d/\varepsilon))$로 도출되며, 조건 수 요소를 제외하고 스무스 잠재확률 분포의 최고 성능 비율을 그대로 유지한다.

ABSTRACT

We consider the problem of sampling from a density of the form $p(x) \propto \exp(-f(x)- g(x))$, where $f: \mathbb{R}^d ightarrow \mathbb{R}$ is a smooth and strongly convex function and $g: \mathbb{R}^d ightarrow \mathbb{R}$ is a convex and Lipschitz function. We propose a new algorithm based on the Metropolis-Hastings framework, and prove that it mixes to within TV distance $\varepsilon$ of the target density in at most $O(d \log (d/\varepsilon))$ iterations. This guarantee extends previous results on sampling from distributions with smooth log densities ($g = 0$) to the more general composite non-smooth case, with the same mixing time up to a multiple of the condition number. Our method is based on a novel proximal-based proposal distribution that can be efficiently computed for a large class of non-smooth functions $g$.

연구 동기 및 목표

• 기존 방법이 정확도 $\varepsilon$에 대해 악화된 의존성과 높은 편향을 보이는 비스무스 복합 잠재확률 분포의 샘플링 효율성 격차를 해소하기 위해.
• 스무스 로그 밀도의 경우에 대해 최고 성능을 보이는 혼합 시간 보장을 비스무스 복합 케이스로 확장하기 위해, 특히 $g$가 볼凸하고 리프시츠 연속일 경우를 고려하여.
• 근접 연산자를 통한 효율적인 계산이 가능한 제안 분포를 개발하여, 다양한 비스무스 함수에 대한 실용적 구현을 가능하게 하기 위해.
• 로그-소볼레브 및 리프시츠 조건 하에서 혼합 시간이 $O(d\log(d/\varepsilon))$로 스케일링되도록 보장하기 위해, 스무스 잠재확률 분포의 최고 성능 비율을 그대로 유지한다.

제안 방법

• 알고리즘은 모어우-요시다 정규화에 기반한 새로운 제안 분포를 사용하는 메트로폴리스-해스팅스 프레임워크를 활용하며, 이는 비스무스 함수 $g$의 프록시멀 연산자를 포함한다.
• 제안 분포는 프록시멀 점을 중심으로 한 절단된 가우시안으로 구성되며, 효율적인 계산과 양호한 탐색 성질을 보장한다.
• 이 방법은 $g$에 대한 근접 오라클을 기반으로 하여, $\ell_1$-노름이나 라플라시안 사전 확률와 같은 비스무스 정규화를 처리할 수 있다.
• 이론적 분석은 쌍용 기법과 도전도 기법을 사용하여 목표 분포와의 전체 변동 거리의 상한을 도출한다.
• 핵심 구성 요소로는 안정성을 확보하기 위해 $\eta < 1/(16L)$인 스텝 사이즈와 꼬리 행동을 통제하기 위한 절단 메커니즘이 포함되어 있다.
• 제안 분포는 $f$의 국소 기울기 정보와 $g$의 프록시멀 구조를 균형 있게 조합하여 수렴 속도를 향상시킨다.

실험 결과

연구 질문

• RQ1 비스무스 복합 잠재확률 분포에 대해 메트로폴리스-해스팅스 알고리즘이 스무스 잠재확률 분포의 최고 성능 비율과 동일한 $O(d\log(d/\varepsilon))$ 혼합 시간을 달성할 수 있는가?
• RQ2 프록시멀 기반 제안 분포가 $g$가 볼凸하고 리프시츠 연속일지라도 비스무스일 경우에도 효율적인 샘플링을 가능하게 하는가?
• RQ3 혼합 시간이 문제의 조건 수에 어떻게 의존하는가? 그리고 $O(1/\varepsilon^2)$를 초월하여 $\varepsilon$에 독립적으로 상한을 설정할 수 있는가?
• RQ4 과도하게 작은 스텝 사이즈가 필요로 하지 않도록 하여, 조정되지 않은 체인에서의 높은 편향을 피할 수 있는가?
• RQ5 로그-소볼레브 부등식은 복합 비스무스 목표 분포의 빠른 혼합을 보장하는 데 어떤 역할을 하는가?

주요 결과

• 제안된 알고리즘은 전체 변동 거리 기준 혼합 시간이 $O(d\log(d/\varepsilon))$로 도출되며, 스무스 잠재확률 분포의 최고 성능 비율을 그대로 유지한다.
• 혼합 시간 보장은 목표 분포가 로그-소볼레브 부등식을 만족하고 $g$가 $O(\sqrt{d})$-리프시츠 연속일 경우에도 유지된다.
• 조건 수에 대한 상수 요소를 제외하고 스무스 케이스와 비교해 성능이 유사하며, 이론적 보장의 격차를 해소한다.
• 프록시멀 기반 제안 분포는 $\ell_1$ 및 라플라시안 사전 확률를 포함한 광범위한 비스무스 함수에 대해 효율적인 계산을 가능하게 한다.
• 이전 연구에서 관찰된 $O(d/\varepsilon^2)$ 의존성은 피하고 정확도 스케일링을 크게 향상시킨다.
• 이론적 분석을 통해 알고리즘이 과도하게 작은 스텝 사이즈가 필요로 하지 않으며, 마코프 체인의 편향을 감소시킴으로써 빠른 수렴을 유지함을 확인한다.