[논문 리뷰] Estimating Normalizing Constants for Log-Concave Distributions: Algorithms and Lower Bounds

Rong Ge, Holden Lee외 1명|arXiv (Cornell University)|2019. 11. 08.

Markov Chains and Monte Carlo Methods참고 문헌 39인용 수 4

한 줄 요약

이 논문은 다중수준 몬테카를로와 과소다이내믹 랭지에르 동역학(ULD)을 사용하여 로그볼록 분포의 정규화 상수를 추정하는 새로운 알고리즘을 제안한다. 이로 인해 쿼리 복잡도는 $\widetilde{\mathcal{O}}\left(\frac{d^{4/3}\kappa + d^{7/6}\kappa^{7/6}}{\varepsilon^2}\right)$에 도달하며, 여기서 $\kappa = L/\mu$는 조건수이다. 또한 이 문제에 대해 이전에 알려지지 않은 정보 이론적 하한선 $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ 쿼리를 처음으로 확립하여 고차원 통계 및 머신러닝 분야에서 이 기본 문제에 대한 이론적 이해의 핵심 격차를 메운다.

ABSTRACT

Estimating the normalizing constant of an unnormalized probability distribution has important applications in computer science, statistical physics, machine learning, and statistics. In this work, we consider the problem of estimating the normalizing constant $Z=\int_{\mathbb{R}^d} e^{-f(x)}\,\mathrm{d}x$ to within a multiplication factor of $1 \pm \varepsilon$ for a $μ$-strongly convex and $L$-smooth function $f$, given query access to $f(x)$ and $ abla f(x)$. We give both algorithms and lowerbounds for this problem. Using an annealing algorithm combined with a multilevel Monte Carlo method based on underdamped Langevin dynamics, we show that $\widetilde{\mathcal{O}}\Bigl(\frac{d^{4/3}κ+ d^{7/6}κ^{7/6}}{\varepsilon^2}\Bigr)$ queries to $ abla f$ are sufficient, where $κ= L / μ$ is the condition number. Moreover, we provide an information theoretic lowerbound, showing that at least $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ queries are necessary. This provides a first nontrivial lowerbound for the problem.

연구 동기 및 목표

• 강한 볼록성과 스무스함을 갖는 함수 $f$에 대해 $\mu$-강한 볼록성과 $L$-스무스함을 만족하는 $Z = \int_{\mathbb{R}^d} e^{-f(x)} dx$의 정규화 상수를 추정하기 위한 효율적인 알고리즘 개발.
• 이 문제에 대해 정보 이론적 하한선을 처음으로 비트리비얼하게 확립하여 이론적 이해의 격차를 메우기.
• 다중수준 몬테카를로 기법을 활용하여 표준 안내법과 랭지에르 기반 방법보다 쿼리 복잡도를 향상시키기.

제안 방법

• 안내법과 다중수준 몬테카를로 추정을 조합하여, 과소다이내믹 랭지에르 동역학(ULD)을 사용해 분산과 쿼리 복잡도를 감소시킨다.
• 다양한 해상도 수준의 이산화를 사용하여 정규화 상수를 점차 감소하는 오차로 추정하는 계층적 샘플링 전략을 적용한다.
• 기본 랭지에르 과정의 수렴 속도를 향상시키기 위해 무작위 중점 방법(ULD-RMM)을 활용한다.
• 다중수준 ULD에서 편향과 분산의 트레이드오프를 분석하여 기울기 쿼리 수에 대한 날카로운 경계를 유도한다.
• 간단한 분포와 목표 분포 사이를 적응적으로 보간하는 새로운 안내 전략을 도입한다.
• 정보 이론적 추론을 통해, 어떤 알고리즘도 $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ 쿼리 이하로는 성공할 수 없음을 보여주는 하한선을 유도한다.

실험 결과

연구 질문

• RQ1 강한 볼록성과 스무스함을 갖는 포텐셜에 의해 정의된 로그볼록 분포의 정규화 상수를 추정하는 데 있어 최적의 쿼리 복잡도는 무엇인가?
• RQ2 다중수준 몬테카를로 기법을 통해 안내법 기반 정규화 상수 추정에서 기울기 쿼리 수를 크게 줄일 수 있는가?
• RQ3 정규화 상수를 $1 \pm \varepsilon$ 정확도 내에서 추정하기 위해 필요한 쿼리 수에 대한 정보 이론적 한계는 무엇인가?
• RQ4 다양한 샘플링 기법—MALA, ULD, ULD-RMM—은 이 설정에서 쿼리 복잡도에 어떻게 영향을 미치는가?
• RQ5 이 문제에 대해 알려진 최상의 상한과 정보 이론적 하한 사이에 증명 가능한 격차가 존재하는가?

주요 결과

• 제안된 다중수준 ULD 알고리즘은 $\widetilde{\mathcal{O}}\left(\frac{d^{4/3}\kappa + d^{7/6}\kappa^{7/6}}{\varepsilon^2}\right)$의 쿼리 복잡도를 달성하여 이전 방법보다 향상된다.
• 다중수준 몬테카를로를 활용한 ULD-RMM 알고리즘은 차원과 조건수에 대한 최고의 종속성을 보인다.
• 정보 이론적 하한선 $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ 쿼리가 확립되었으며, 이는 상한이 차원 의존성 측면에서 거의 최적임을 보여준다.
• 다중수준 ULD를 사용한 로그볼록 측도 하에서 기대값 추정의 수렴 속도 향상 분석을 제공하여 별도의 관심사가 될 수 있다.
• 강한 볼록성 하에서 정규화 상수 추정에 대해 정보 이론적 하한선을 처음으로 제공함으로써 오랫동안 미해결이었던 문제를 해결한다.
• 결과적으로 다중수준 몬테카를로가 이 설정에서 최적의 쿼리 복잡도를 달성하기 위해 필수적임을 보여주며, ULD를 단순히 안내법에 적용할 경우 최적의 경계를 달성하지 못함을 입증한다.