[논문 리뷰] Rate optimality of Random walk Metropolis algorithm in high-dimension with heavy-tailed target distribution

Kengo Kamatani|arXiv (Cornell University)|2014. 06. 20.

Markov Chains and Monte Carlo Methods참고 문헌 12인용 수 3

한 줄 요약

이 논문은 무작위 걷기 메트로폴리스 알고리즘(RWM)이 경량 꼬리 목표 분포에서 표준 정규 증분 분포를 사용할 경우 최적 수렴 속도를 달성함을 입증한다. 이는 두꺼운 꼬리 목표 분포에서 두꺼운 꼬리 증분 분포가 성능을 향상시킬 것이라는 기대와는 반대로, 두 경우 모두 표준 정규 증분 분포가 최적의 수렴 속도를 달성함을 보여준다. 핵심 결과는 경량 꼬리 목표 분포의 경우 최적 수렴 속도가 $ d $이고, 두꺼운 꼬리 목표 분포의 경우 $ d^2 $이며, 이 두 경우 모두 표준 정규 증분 분포로 달성되며, 이는 모든 대칭 증분 분포 중에서 수렴 속도 최적화를 달성한다.

ABSTRACT

The choice of the increment distribution is crucial for the random-walk Metropolis-Hastings (RWM) algorithm. In this paper we study the optimal choice in high-dimension setting among all possible increment distributions. The conclusion is rather counter intuitive, but the optimal rate of convergence is attained by the usual choice, the normal distribution as the increment distribution. In particular, no heavy-tailed increment distribution can improve the rate.

연구 동기 및 목표

• 고차원 설정에서 두꺼운 꼬리 목표 분포를 가진 랜덤워크 메트로폴리스 알고리즘(RWM)의 최적 증분 분포를 규명하는 것.
• 차원 $ d \to \infty $일 때 RWM 알고리즘의 수렴 속도를 분석하고, 증분 분포의 선택에 초점을 맞추는 것.
• 두꺼운 꼬리 증분 분포가 표준 정규 분포 대비 수렴 속도를 향상시킬 수 있는지에 대한 열린 문제를 해결하는 것.
• 경량 꼬리 및 두꺼운 꼬리 목표 분포 모두에서 표준 정규 증분 분포가 최적의 수렴 속도를 달성함을 입증하는 것.
• 이론적으로 두꺼운 꼬리 대안보다 정규 분포가 널리 사용되는 데 대한 이론적 근거를 제공하는 것.

제안 방법

• 대칭 증분 분포 $ \Gamma^d $를 갖는 RWM 알고리즘을 분석하며, 제안은 $ x^* = x + w $, $ w \sim \Gamma^d $이며, 수용 확률은 $ \min\left\{1, \frac{p^d(x^*)}{p^d(x)}\right\} $이다.
• 목표 분포 $ P^d $를 정규 분포의 척도 혼합으로 고려하며, 혼합 분포 $ Q $가 이산일 경우 $ P^d $는 경량 꼬리이고, $ Q $가 밀도를 가질 경우 두꺼운 꼬리이다.
• 차원 $ d \to \infty $일 때의 확산 극한 힌트와 점근적 분석을 사용하며, 혼합 분포 $ Q $가 고정되어 있고 미세성 및 감쇠 조건을 만족한다고 가정한다.
• 스테인의 방법과 교환 가능 쌍 구성 기법을 사용하여 무작위 걷기의 좌표 분포와 표준 정규 분포 사이의 워셔슈타인 거리 및 총 변동 거리의 상한을 구한다.
• 기하학적 변형을 포함한 기대값 분석을 위해 지르산프의 공식을 적용하며, 특히 $ S \sim N(\sigma^2/2, \sigma^2) $인 경우를 중심으로 모멘트 상한을 유도한다.
• 일반화된 수렴 조건을 통해 좌표 차이의 확률적 수렴을 분석하며, $ \alpha(d) = o(d) $일 경우 최소한 하나의 좌표에서 비퇴화가 발생하지 않음을 보이며, $ \alpha(d) \sim d $일 때 비퇴화 극한이 존재함을 증명한다. 이는 $ \alpha(d) = d $가 비퇴화 극한을 위한 최적임을 보여준다.

실험 결과

연구 질문

• RQ1 고차원에서 두꺼운 꼬리 목표 분포를 가진 RWM 알고리즘에서 두꺼운 꼬리 증분 분포가 수렴 속도를 향상시킬 수 있는가?
• RQ2 차원 $ d \to \infty $일 때 RWM 알고리즘의 최적 수렴 속도는 무엇이며, 어떤 증분 분포가 이를 달성하는가?
• RQ3 표준 정규 증분 분포가 경량 꼬리 및 두꺼운 꼬리 목표 분포 모두에서 모든 대칭 증분 분포 중 수렴 속도 최적임이 맞는가?
• RQ4 증분 분포의 선택이 고차원에서 비퇴화 확산 극한의 존재성에 영향을 미치는가?
• RQ5 비정규 증분을 사용하여 경량 꼬리 목표 분포의 경우 $ d $를 초월하거나 두꺼운 꼬리 목표 분포의 경우 $ d^2 $를 초월하는 수렴 속도를 향상시킬 수 있는가?

주요 결과

• 경량 꼬리 목표 분포(예: 다변수 정규 분포)의 경우 최적 수렴 속도는 $ \alpha(d) = d $이며, 이는 증분 분포가 정규일 때 달성된다.
• 두꺼운 꼬리 목표 분포(예: 밀도를 가진 정규 분포의 척도 혼합)의 경우 최적 수렴 속도는 $ \alpha(d) = d^2 $이며, 이 역시 정규 증분 분포로 달성된다.
• 경량 꼬리 또는 두꺼운 꼬리 케이스에서 어떤 두꺼운 꼬리 증분 분포도 수렴 속도를 $ d $ 또는 $ d^2 $를 초과할 수 없다.
• 반복 횟수 $ \alpha(d) = o(d) $일 경우, 증분 분포에 관계없이 RWM 알고리즘의 출력은 최소한 하나의 좌표에서 비퇴화가 된다.
• 정규 증분 분포는 두꺼운 꼬리 설정에서도 모든 대칭 증분 분포 중 수렴 속도 최적임이지만, 이는 두꺼운 꼬리 목표 분포를 더 잘 탐색할 수 있을 것이라는 직관적 기대와는 정반대이다.
• 스테인의 방법과 지르산프의 공식을 통한 이론적 상한은 정규 증분 분포가 확산 극한에서의 점근적 이질성을 최소화함을 확인하며, 이는 정규 분포의 최적성에 대한 지원을 제공한다.