[논문 리뷰] An introduction to sampling via measure transport

Youssef Marzouk, Tarek Moselhy외 2명|arXiv (Cornell University)|2016. 02. 16.

Markov Chains and Monte Carlo Methods참고 문헌 80인용 수 48

한 줄 요약

이 논문은 복잡한 목표 분포에서 효율적이고 독립적이며 가중치가 없는 샘플링을 가능하게 하는 측도 이동 방법을 제안한다. 간단한 기준 측도(예: 가우시안)에서 목표 분포로의 결정적이고 가역적인 사상 맵을 구성하며, 이러한 맵을 학습하기 위해 변분 문제를 해결함으로써, 목표 분포에서 효율적인 독립적이고 가중치가 없는 샘플링이 가능해지고, MCMC를 사전 조정하거나 가우시안화를 가능하게 한다. 고차원 환경에서 최적화 및 근사 공간의 확장에 의해 오차를 정량화하고 적응적으로 개선할 수 있다.

ABSTRACT

We present the fundamentals of a measure transport approach to sampling. The idea is to construct a deterministic coupling---i.e., a transport map---between a complex "target" probability measure of interest and a simpler reference measure. Given a transport map, one can generate arbitrarily many independent and unweighted samples from the target simply by pushing forward reference samples through the map. We consider two different and complementary scenarios: first, when only evaluations of the unnormalized target density are available, and second, when the target distribution is known only through a finite collection of samples. We show that in both settings the desired transports can be characterized as the solutions of variational problems. We then address practical issues associated with the optimization--based construction of transports: choosing finite-dimensional parameterizations of the map, enforcing monotonicity, quantifying the error of approximate transports, and refining approximate transports by enriching the corresponding approximation spaces. Approximate transports can also be used to "Gaussianize" complex distributions and thus precondition conventional asymptotically exact sampling schemes. We place the measure transport approach in broader context, describing connections with other optimization--based samplers, with inference and density estimation schemes using optimal transport, and with alternative transformation--based approaches to simulation. We also sketch current work aimed at the construction of transport maps in high dimensions, exploiting essential features of the target distribution (e.g., conditional independence, low-rank structure). The approaches and algorithms presented here have direct applications to Bayesian computation and to broader problems of stochastic simulation.

연구 동기 및 목표

• 복잡하고 고차원적인 확률 분포에서 마르코프 체인 몬테카를로(MCMC)나 중요도 샘플링에 의존하지 않고 독립적이고 가중치가 없는 샘플을 생성하기 위한 프레임워크를 개발하는 것.
• 목표 밀도가 평가하기 비용이 많이 들거나 비가역적인 경우에 발생하는 베이지안 추론 및 불확실성 정량화 문제를 다루는 것.
• 계산적으로 효율적이며 조건부 독립성 또는 낮은 랭크 의존성과 같은 저차원적 구조를 활용할 수 있는 이동 맵을 구성하는 것.
• 근사 공간의 적응적 확장에 의해 근사 이동 맵의 오차를 체계적으로 정량화하고 감소시키는 방법을 제공하는 것.
• 기존의 샘플링 기법(예: MCMC)의 사전 조정자로 이동 맵을 사용하여 혼합 속도와 수렴 속도를 향상시키는 것.

제안 방법

• 기준 측도와 목표 측도 사이의 발산(예: 클로이비시안-라이블러)을 최소화하는 변분 문제의 해로 이동 맵을 정의한다.
• 다항식 혼합 또는 신경망과 같은 유한 차원 매개변수화를 사용하여 맵을 구성하며, 단조성은 코스테-로젠블라트 재배치 또는 야코비안 제약 조건을 통해 강제한다.
• 최적화 기반 학습을 통해 목표 분포의 비정규화된 밀도 평가값이나 목표 분포에서의 유한한 샘플 집합에서 맵의 매개변수를 결정한다.
• 스parseness, 조건부 독립성 등의 구조적 제약 조건을 맵의 매개변수화에 통합하여 차원을 줄이고 확장성을 향상시킨다.
• 최적화 과정 중에 일阶 변분 분석을 적용하여 근사 공간의 적응적 확장을 이끌어내며, 전체 재학습 없이도 정확도를 향상시킨다.
• 학습된 맵을 사용해 기준 샘플을 목표 샘플로 변환하거나 삼각 구조를 통해 조건부 샘플을 생성한다.

실험 결과

연구 질문

• RQ1 간단한 기준 측도(예: 표준 가우시안)에서부터 복잡한 목표 분포로의 독립적이고 가중치가 없는 샘플을 생성할 수 있는 결정적이고 가역적인 사상 맵을 구성할 수 있는가?
• RQ2 누적 분포 함수에 직접 접근할 수 없고 비정규화된 밀도 평가값만 이용 가능한 경우, 어떻게 이동 맵을 학습할 수 있는가?
• RQ3 조건부 독립성, 낮은 랭크 구조 등의 구조적 가정이 고차원 이동 맵 학습의 복잡도를 어떻게 줄이는가?
• RQ4 근사 이동 맵의 오차는 어떻게 정량화하고 근사 공간의 적응적 확장으로 줄일 수 있는가?
• RQ5 이동 맵를 사용하여 혼합 속도와 수렴 속도를 향상시킬 수 있는가? 특히 고차원이고 강하게 상관된 사후 분포에서 MCMC 샘플러를 사전 조정하는 데서.

주요 결과

• 이동 맵 프레임워크는 표준 가우시안과 같은 기준 측도에서의 샘플을 후행하여, 복잡한 목표 분포에서 독립적이고 가중치가 없는 샘플을 생성할 수 있다.
• 비정규화된 밀도 평가값만 이용 가능한 경우, 후행 측도와 목표 측도 사이의 클로이비시안-라이블러 발산을 최소화하는 변분 문제를 풀어 이동 맵를 학습할 수 있다.
• 목표 분포에서의 샘플만 이용 가능한 경우, 이중 변분 공식을 통해 밀도 추정과 이동 맵 구성이 가능한 이중 변분 공식을 사용하여 이동 맵를 학습할 수 있다.
• 맵의 삼각 구조를 통해 효율적인 조건부 샘플링이 가능하며, 이로써 근사 및 조건부 분포를 직접 샘플링할 수 있다.
• 근사 이동 맵는 MCMC 알고리즘의 사전 조정자로 사용될 수 있으며, 고차원이고 상관관계가 강한 사후 분포에서 혼합 속도와 수렴 속도를 크게 향상시킬 수 있다.
• 일阶 변분 분석에 의해 안내되는 근사 공간의 적응적 확장은 전체 재최적화 없이도 체계적인 오차 감소와 이동 맵의 정확도 향상을 가능하게 한다.