[논문 리뷰] Quantifying the accuracy of approximate diffusions and Markov chains

Jonathan H. Huggins, James Zou|arXiv (Cornell University)|2016. 05. 20.

Markov Chains and Monte Carlo Methods참고 문헌 23인용 수 5

한 줄 요약

이 논문은 이완 분포 간의 워샤프스타인 거리에 대한 드리프트 편차와 혼합 속도를 바탕으로 근사 확산 및 마르코프 체인의 정확도를 정량화하는 일반적인 프레임워크를 개발한다. 주요 결과는 계산 제약 조건 하에서 정확한 기울기 대신 빠른 근사 기울기를 사용하는 비조정 랑주방 동역학에서 더 정확한 표본을 얻을 수 있음을 보여주며, 특히 대규모 데이터셋을 가진 고차원 설정에서 그러한 현상이 두드러진다.

ABSTRACT

Markov chains and diffusion processes are indispensable tools in machine learning and statistics that are used for inference, sampling, and modeling. With the growth of large-scale datasets, the computational cost associated with simulating these stochastic processes can be considerable, and many algorithms have been proposed to approximate the underlying Markov chain or diffusion. A fundamental question is how the computational savings trade off against the statistical error incurred due to approximations. This paper develops general results that address this question. We bound the Wasserstein distance between the equilibrium distributions of two diffusions as a function of their mixing rates and the deviation in their drifts. We show that this error bound is tight in simple Gaussian settings. Our general result on continuous diffusions can be discretized to provide insights into the computational-statistical trade-off of Markov chains. As an illustration, we apply our framework to derive finite-sample error bounds of approximate unadjusted Langevin dynamics. We characterize computation-constrained settings where, by using fast-to-compute approximate gradients in the Langevin dynamics, we obtain more accurate samples compared to using the exact gradients. Finally, as an additional application of our approach, we quantify the accuracy of approximate zig-zag sampling. Our theoretical analyses are supported by simulation experiments.

연구 동기 및 목표

• 근사 샘플링 알고리즘에서 계산 효율성과 통계 정확도 사이의 근본적 상충 관계를 다루기 위해.
• 정확한 및 근사적인 확산 과정 간의 평형 분포 이탈에 대한 일반적인 오차 경계를 개발하기 위해.
• 고정된 계산 예산 하에서 근사 기울기 기반 랑주방 동역학이 정확한 기울기 방법보다 우월한 설정을 규명하기 위해.
• 조각별로 결정적인 과정인 지그재그 샘플러와 같은 과정으로 프레임워크를 확장하기 위해.
• 실제 MCMC 알고리즘에서의 계산-통계적 상충 관계를 정량화하는 유한 표본 오차 경계를 제공하기 위해.

제안 방법

• 드리프트 편차와 혼합 속도를 바탕으로 두 확산 과정의 평형 분포 간의 워샤프스타인 거리 경계를 유도한다 (정리 3.1).
• 연속 시간 결과와 이산화 일致성의 활용을 통해 이론적 결과를 이산화된 랑주방 동역학에 적용한다.
• 타일러 전개를 사용하여 비조정 랑주방 동역학에서 진짜 드리프트를 근사함으로써 기울기 근사 오차의 분석을 가능하게 한다.
• 혼합 속도, 드리프트 편차, 그리고 로그 밀도와 그 도함수의 정규성 가정을 조합하여 근사 ULA에 대한 유한 표본 오차 경계를 수립한다.
• 비가역적이고 조각별로 결정적인 마르코프 과정인 지그재그 과정으로 오차 경계를 확장함으로써 이 프레임워크를 적용한다.
• 농도 및 정규성 조건(예: 유계 헤시안, 리프쉬츠 기울기)을 활용하여 진짜 드리프트와 근사 드리프트 간의 이탈을 제어한다.

실험 결과

연구 질문

• RQ1 랑주방 동역학에서 근사 기울기를 사용할 경우 정확한 기울기 사용보다 더 정확한 평형 분포를 얻을 수 있는 조건은 무엇인가?
• RQ2 두 확산 과정의 드리프트 차이와 혼합 속도에 따라 평형 분포의 이탈이 어떻게 척도화되는가?
• RQ3 확산 과정에 대해 유도된 이론적 오차 경계는 어떻게 효과적으로 이산화되어 ULA와 같은 마르코프 체인 샘플러를 분석하는 데 사용될 수 있는가?
• RQ4 어떤 계산 환경에서 빠른 혼합 또는 감소된 분산 덕분에 근사 샘플링이 정확한 샘플링을 초월하는가?
• RQ5 근사 충분 통계량 또는 부분 샘플링된 기울기를 사용할 경우 지그재그 샘플러의 정확도는 어느 정도인가?

주요 결과

• 두 확산 과정의 평형 분포 간의 워샤프스타인 거리는 드리프트 편차의 제곱근에 비례하고 혼합 속도에 반비례하는 항에 의해 경계되며, 가우시안 설정에서의 타당성이 확인되었다.
• 비조정 랑주방 동역학에서 오차 경계는 정확한 기울기의 경우 $\tilde{O}(d/(TN))$ 으로 스케일링되고, 근사 기울기의 경우 $\tilde{O}(d^2/(N^2T) + d^3/N^2)$ 로 스케일링되며, $N$ 이 클 경우 근사화로 인한 정확도 향상이 나타난다.
• 대규모 데이터셋과 고차원 설정에서 계산 예산이 제한된 조건 하에서 부분 샘플링되거나 계산이 빠른 기울기를 사용하는 근사 ULA는 정확한 ULA보다 더 낮은 오차를 달성할 수 있다.
• 이 프레임워크는 근사 드리프트 오차가 제어될 경우 근사 지그재그 샘플링이 정확성을 유지함을 확인하며, 동일한 일반 원칙을 통해 오차 경계가 유도되었다.
• 이론적 경계는 계산과 통계 정확도 사이의 예측된 상충 관계를 보여주는 시뮬레이션 실험으로 뒷받침된다.
• 분석 결과, 정확한 기울기의 계산 비용은 $N$ 이 클 경우 더 많은 반복에 근사 기울기를 사용하는 데 더 효과적으로 쓰일 수 있음을 드러냈다.