[논문 리뷰] Kernel Adaptive Metropolis-Hastings

Dino Sejdinović, Heiko Strathmann외 3명|arXiv (Cornell University)|2013. 07. 19.

Gaussian Processes and Bayesian Inference참고 문헌 25인용 수 26

한 줄 요약

이 논문은 복잡한 비선형 분포에서 혼합성과 분위수 정확도를 크게 향상시키기 위해 국소 공분산 구조를 학습할 수 있는 기울기 없는 적응형 MCMC 알고리즘인 커널 적응 메트로폴리스-해스팅스(MCMC Kameleon)를 소개한다. 이 알고리즘은 마코프 체인 샘플을 재생 핵 힐버트 공간(RKHS)으로 매핑하여 비선형 목표 분포의 지오메트리에 적응하는 위치 기반 가우시안 제안 분포를 구성한다. 특징 공간 이동을 해석적으로 통합함으로써 원래 공간에서 닫힌 형태의 위치 기반 가우시안 제안 분포를 도출한다. 이는 기존의 고정 및 적응형 샘플러에 비해 성능을 크게 향상시킨다.

ABSTRACT

A Kernel Adaptive Metropolis-Hastings algorithm is introduced, for the purpose of sampling from a target distribution with strongly nonlinear support. The algorithm embeds the trajectory of the Markov chain into a reproducing kernel Hilbert space (RKHS), such that the feature space covariance of the samples informs the choice of proposal. The procedure is computationally efficient and straightforward to implement, since the RKHS moves can be integrated out analytically: our proposal distribution in the original space is a normal distribution whose mean and covariance depend on where the current sample lies in the support of the target distribution, and adapts to its local covariance structure. Furthermore, the procedure requires neither gradients nor any other higher order information about the target, making it particularly attractive for contexts such as Pseudo-Marginal MCMC. Kernel Adaptive Metropolis-Hastings outperforms competing fixed and adaptive samplers on multivariate, highly nonlinear target distributions, arising in both real-world and synthetic examples. Code may be downloaded at https://github.com/karlnapf/kameleon-mcmc.

연구 동기 및 목표

• 복잡한 지지 구조를 가진 고차원이며 강하게 비선형적인 목표 분포에서 효율적인 샘플링 문제를 해결한다.
• 목표 분포의 국소적 비정규적 종속성을 포착하지 못하는 고정 및 전역 적응 제안 분포의 한계를 극복한다.
• 고차 도함수를 필요로 하지 않는 계산적으로 효율적인 기울기 없는 MCMC 방법을 개발하여 국소 기하학에 기반한 제안 분포를 적응시킨다.
• 가능성 함수가 추정 불가능하거나 노이즈가 있는 경우에도 견고한 성능을 발휘할 수 있도록 한다.
• 커널 임bedding을 통해 국소 공분산 구조를 학습함으로써 경험적 분위수 추정과 평균 노름 정확도를 향상시킨다.

제안 방법

• 입력 공간의 샘플을 커널 특징 매핑을 사용하여 재생 핵 힐버트 공간(RKHS)으로 매핑한다.
• RKHS에서 체인 역사에 대한 경험적 공분산 오퍼레이터를 추정하여 국소 기하학적 구조를 포착한다.
• 현재 상태의 평균과 RKHS 공분산 오퍼레이터에서 유도된 공분산을 갖는 다변수 정규 분포로 입력 공간에서 제안 분포를 구성한다.
• 특징 공간 이동을 해석적으로 통합함으로써 원래 공간에서 닫힌 형태의 위치 기반 가우시안 제안 분포를 도출한다.
• 목표 측도의 커널 임베딩을 활용하여 기울기 정보 없이도 제안 분포의 적응을 유도한다.
• 결과로 도출된 알고리즘을 메트로폴리스-해스팅스 프레임워크에 적용하여 비정규화된 목표 밀도에 기반해 제안을 수락하거나 기각한다.

실험 결과

연구 질문

• RQ1 커널 기반 특징 공간 공분산 추정은 비선형 목표 분포에 대한 MCMC 제안 분포 적응에 성능 향상을 이끌 수 있는가?
• RQ2 RKHS에서의 국소 공분산 적응은 전역 공분산 적응에 비해 혼합성과 분위수 정확도 측면에서 어떻게 비교되는가?
• RQ3 기울기 없는 커널 기반 MCMC 샘플러는 바나나 및 꽃 형태 분포와 같이 매우 비선형적인 목표 분포에서 기존의 적응 샘플러를 능가할 수 있는가?
• RQ4 가능성 함수가 추정되는 경우에도 제안된 방법은 의사-마르지널 MCMC 설정에서 양호한 성능을 유지하는가?
• RQ5 알고리즘 성능은 커널 선택 및 체인 역사 샘플링에 얼마나 의존하는가?

주요 결과

• 8차원 바나나 목표 분포(비선형성 강함, b=0.1)에서 MCMC Kameleon은 표준 메트로폴리스(SM), 적응 메트로폴리스(AM), 국소 스케일링이 적용된 적응 메트로폴리스(AM-LS)에 비해 뚜렷한 성능 향상을 보였다.
• 꽃 형태 목표 분포에서 MCMC Kameleon은 AM의 올바른 전역 공분산 추정에도 불구하고 국소 구조를 포착하지 못함으로써 성능이 열 劣한 AM 및 AM-LS에 비해 뛰어난 분위수 성능을 달성했다.
• 최적 수준에 가까운 높은 수락률(약 0.234)을 유지하면서도 정확한 경험적 평균 노름과 분위수를 도출함으로써 빠른 혼합성과 지지 영역의 정확한 탐색을 보였다.
• SM는 무작위 걷기 행동으로 인해 목표 분포의 한 영역에 갇혀 있어 평균 노름과 분위수 편차가 심각하게 악화되었다.
• 고정 스케일을 사용한 AM는 과도하게 확장된 제안으로 인해 낮은 수락률을 보였고, AM-LS는 과소 스케일링된 제안으로 인해 분위수 성능이 열 劣하였다. 이는 모두 고밀도 영역을 효과적으로 탐색하지 못했음을 의미한다.
• 알고리즘은 비정규적이고 비타원형 목표 분포에 대해서도 강건한 성능을 유지를 하며, 커널 기반 공분산 학습을 통해 국소적이고 굴곡진 지지 구조에 적응할 수 있음을 보여주었다.