[논문 리뷰] Iterative Markov Chain Monte Carlo Computation of Reference Priors and Minimax Risk

John Lafferty, Larry Wasserman|arXiv (Cornell University)|2013. 01. 10.

Markov Chains and Monte Carlo Methods참고 문헌 10인용 수 11

한 줄 요약

이 논문은 정보이론에서 유래한 Blahut-Arimoto 알고리즘을 변형하여 일반적인 매개변수 가족에 대해 기준 사전확률과 최소최대 위험을 계산하기 위해 반복적인 마르코프 체인 몽테카를로(MCMC) 알고리즘을 제안한다. 각 반복 단계에서 비가역적 적분을 MCMC 샘플링으로 근사하고, 공통된 난수를 사용하여 확률적 오차를 통제함으로써, 표본 크기가 반복 횟수의 제곱에 비례하여 증가하는 방식으로 결정론적 해로의 수렴을 보장한다. 이는 분석적 해가 불가능한 고차원 설정에서도 실용적인 계산을 가능하게 한다.

ABSTRACT

We present an iterative Markov chainMonte Carlo algorithm for computingreference priors and minimax risk forgeneral parametric families. Ourapproach uses MCMC techniques based onthe Blahut-Arimoto algorithm forcomputing channel capacity ininformation theory. We give astatistical analysis of the algorithm,bounding the number of samples requiredfor the stochastic algorithm to closelyapproximate the deterministic algorithmin each iteration. Simulations arepresented for several examples fromexponential families. Although we focuson applications to reference priors andminimax risk, the methods and analysiswe develop are applicable to a muchbroader class of optimization problemsand iterative algorithms.

연구 동기 및 목표

• 분석적 해가 불가능한 매개변수 가족에서 기준 사전확률과 최소최대 위험을 위한 실용적인 계산 방법을 개발하기 위해.
• 원래 이산 채널 용량 계산을 위해 개발된 Blahut-Arimoto 알고리즘을 연속적이고 고차원적인 매개변수 공간으로 확장하기 위해.
• 반복 최적화 과정에서 비가역적 적분 문제를 MCMC 샘플링을 통해 해결하기 위해.
• 수렴을 보장하기 위해 반복 획별 MCMC 표본 수에 대한 이론적 경계를 제공하기 위해.
• 시뮬레이션을 통해 지수족 모형에서 이 방법의 효과성을 입증하기 위해.

제안 방법

• 필요한 기대값을 근사하기 위해 MCMC 샘플링을 사용하여 Blahut-Arimoto 알고리즘을 연속적 매개변수 공간으로 확장한다.
• 각 반복에서 사후분포에서 샘플을 생성하기 위해 균일한 제안을 사용하는 مترو폴리스-하스팅스 알고리즘을 적용한다.
• 반복 간에 공통된 난수를 사용하여 반복 과정에서 발생하는 확률적 오차의 누적을 방지한다.
• 매개변수와 충분통계량 사이의 상호정보량을 최대화하는 재귀적 업데이트 규칙을 적용한다.
• 크기 B의 블록 샘플링을 사용하여 독립적인 샘플을 근사하고, N/B를 효과적 표본 크기로 간주한다.
• 혼합 조건 하에서 MCMC 근사로 인한 오차를 경계함으로써 수렴성을 확립한다.

실험 결과

연구 질문

• RQ1 MCMC 샘플링을 활용하여 Blahut-Arimoto 알고리즘을 연속적이고 고차원적 매개변수 공간으로 확장할 수 있는가?
• RQ2 반복 획별로 몇 개의 MCMC 샘플이 필요하여 확률적 알고리즘이 결정론적 알고리즘을 잘 근사하게 할 수 있는가?
• RQ3 반복 간에 공통된 난수를 사용할 경우, 반복적 MCMC 알고리즘에서 확률적 오차가 누적되는 것을 방지할 수 있는가?
• RQ4 지수족에서 기준 사전확률의 유한표본 행동, 특히 매개변수 공간의 경계 근처에서 어떻게 나타나는가?
• RQ5 이 방법은 기준 사전확률과 최소최대 위험을 넘어서 다른 반복 최적화 문제로 일반화될 수 있는가?

주요 결과

• 반복 횟수의 제곱에 비례하여 각 반복에서의 표본 수가 증가할 경우, 반복적 MCMC 알고리즘이 기준 사전확률과 최소최대 위험으로 수렴한다.
• 베르누이, 포아송, 음이이항, 정규 모형에 대한 시뮬레이션 결과, 기준 사전확률이 컴팩트 구간으로 제한된 경우 매개변수 공간의 경계에 집중되는 것으로 나타났다.
• 모수의 분산이 알려진 정규 모형의 경우, 극한 분포는 이론적 기대와 일치하는 정규분포이다.
• 해석적 해가 알려지지 않은 지수족에서 이 방법은 실용적인 표본 크기의 기준 사전확률을 성공적으로 추정하였으며, 지수족을 초월한 k=1의 경우에도 적용 가능했다.
• 반복 간에 공통된 난수를 사용함으로써 확률적 오차의 전파를 효과적으로 통제하여 전역 수렴을 가능하게 하였다.
• 이 방법은 로그선형 모형에 대한 일반화된 반복 스케일링과 같은 다른 교대 최소화 알고리즘으로도 일반화 가능하다.