[논문 리뷰] Proximal Markov chain Monte Carlo algorithms

Marcelo Pereyra|arXiv (Cornell University)|2013. 06. 02.

Markov Chains and Monte Carlo Methods참고 문헌 29인용 수 9

한 줄 요약

이 논문은 볼록 해석학과 근접 사상(proximity mappings)을 활용하여 고차원, 로그-볼록, 비가속성 사후 분포에서 효율적으로 샘플링하는 데 사용할 수 있는 새로운 MCMC 방법인 Proximal Metropolis-adjusted Langevin Algorithm (P-MALA)을 제안한다. 기존의 기울기 기반 업데이트를 Moreau–Yoshida 정규화로부터 유도된 근접 연산자(proximal operators)로 대체함으로써, P-MALA는 표준 MALA가 실패하는 비가속성 대상에서도 기하학적 에르고딕성과 강건한 안정성을 달성한다.

ABSTRACT

This paper presents a new Metropolis-adjusted Langevin algorithm (MALA) that uses convex analysis to simulate efficiently from high-dimensional densities that are log-concave, a class of probability distributions that is widely used in modern high-dimensional statistics and data analysis. The method is based on a new first-order approximation for Langevin diffusions that exploits log-concavity to construct Markov chains with favourable convergence properties. This approximation is closely related to Moreau-Yoshida regularisations for convex functions and uses proximity mappings instead of gradient mappings to approximate the continuous-time process. The proposed method complements existing MALA methods in two ways. First, the method is shown to have very robust stability properties and to converge geometrically for many target densities for which other MALA are not geometric, or only if the step size is sufficiently small. Second, the method can be applied to high-dimensional target densities that are not continuously differentiable, a class of distributions that is increasingly used in image processing and machine learning and that is beyond the scope of existing MALA and HMC algorithms. To use this method it is necessary to compute or to approximate efficiently the proximity mappings of the logarithm of the target density. For several popular models, including many Bayesian models used in modern signal and image processing and machine learning, this can be achieved with convex optimisation algorithms and with approximations based on proximal splitting techniques, which can be implemented in parallel. The proposed method is demonstrated on two challenging high-dimensional and non-differentiable models related to image resolution enhancement and low-rank matrix estimation that are not well addressed by existing MCMC methodology.

연구 동기 및 목표

• 신호 및 영상 처리에서 흔히 발생하는 고차원, 비가속성 모델에서 베이지안 추론의 과제를 해결하기 위해.
• 대상 밀도의 연속적인 미분 가능성을 요구하는 표준 MALA 및 HMC 방법의 한계를 극복하기 위해.
• 기울기가 이용 가능하거나 안정하지 않은 경우에도 로그-볼록 대상에 대해 기하학적 수렴성을 유지하는 강건한 MCMC 알고리즘을 개발하기 위해.
• 전체 변동성, 핵 노름, 라플라스 사전과 같은 비가속성 사전을 갖는 모델에 대해 효율적인 샘플링을 가능하게 하기 위해.
• 기존의 기울기 기반 방법의 범위를 초월하여 볼록이고 고차원적인 통계 모델에서의 MCMC 샘플링을 위한 일반 목적의 프레임워크를 제공하기 위해.

제안 방법

• 라운지딘 확산의 SDE 역학을 근사하기 위해 기울기 대신 근접 사상(proximity mappings)을 사용하는 근접 미조정 라운지딘 알고리즘(P-ULA)을 제안한다.
• 볼록 쌍대성 기반으로 연속적인 확산 과정의 1차 근사화를 구성하기 위해 Moreau–Yoshida 정규화를 활용한다.
• 근접 제안을 메트로폴리스-헌팅스 수락-기각 단계로 수정함으로써 목표 분포에 대한 정확한 정적분포를 보장하는 메트로폴리스 조정 버전(P-MALA)을 도입한다.
• 로그-밀도에 대한 효율적인 근접 연산자 계산(예: L1, 핵 노름, 볼록 집합의 지시 함수 등)에 의존하여 고차원에서의 확장성을 달성한다.
• 전진-뒤로, ADMM 유사 기법 등을 활용한 근접 분할 기법을 사용하여 병렬 처리에 적합한 근접 사상 계산을 수행한다.
• 표준 MCMC가 실패하는 비가속성 고차원 모델, 예를 들어 영상 초해상도 및 낮은 질서 행렬 추정에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 비가속성, 고차원, 로그-볼록 사후 분포에 대해 근접 연산자를 활용하여 안정적이고 기하학적으로 에르고딕인 MCMC 샘플러를 구성할 수 있는가?
• RQ2 비가속성 대상에 대해 P-MALA의 수렴성과 혼합 시간은 표준 MALA 및 HMC와 비교해 어떻게 되는가?
• RQ3 P-MALA는 전체 변동성 또는 핵 노름 정규화와 같은 비가속성 사전을 갖는 모델에서 효과적으로 샘플링할 수 있는가?
• RQ4 고차원 MCMC에서 기울기 사상 대비 근접 사상 사용의 이론적 및 계산적 이점은 무엇인가?
• RQ5 P-MALA는 정규화된 양의 정의역, 노름 구, 복잡한 제약 조건 또는 계층적 하이퍼파rameter를 갖는 모델로 어떻게 확장될 수 있는가?

주요 결과

• P-MALA는 표준 MALA가 실패하거나 실용적으로 작은 스텝 사이즈가 필요한 비가속성, 로그-볼록 목표 밀도의 광범위한 클래스에서 기하학적 에르고딕성을 달성한다.
• 이 방법은 라플라스, 전체 변동성, 핵 노름 펜alties 등의 비가속성 사전을 갖는 고차원 모델에서도 강건한 안정성과 수렴성을 보여준다.
• P-MALA는 기존 MCMC 방법이 잘 다루지 못하는 두 가지 도전적인 응용 분야에서 성공적으로 샘플링을 수행한다: 영상 해상도 향상 및 낮은 질서 행렬 추정.
• 근접 사상 프레임워크는 전방-뒤로, 분할 기반 최적화 알고리즘 등을 포함한 볼록 최적화 알고리즘을 통해 효율적인 제안 계산을 가능하게 하며, 이를 병렬화할 수 있다.
• P-MALA의 혼합 시간은 표준 MALA나 랜덤 워크와 달리 목표 밀도의 꼬리 행동에 의존하므로, 목표 분포의 형태에 민감함을 시사한다.
• 이 방법은 계층 모델과 호환되며, 고차원 역문제에서의 경험 베이지안 추정 및 신뢰 영역 계산으로까지 확장 가능하다.