[논문 리뷰] Note on the computation of the Metropolis-Hastings ratio for Birth-or-Death moves in trans-dimensional MCMC algorithms for signal decomposition problems

Alireza Roodaki, Julien Bect외 1명|arXiv (Cornell University)|2011. 11. 27.

Markov Chains and Monte Carlo Methods참고 문헌 45인용 수 3

한 줄 요약

이 논문은 신호 분해에 사용되는 전이차원 MCMC 알고리즘 내에서 Birth-or-Death 이동에 대한 메트로폴리스-하스팅스-그린(MHG) 비율에서 오랫동안 지속된 오류를 수정한다. 혼합 제안 커널을 분석함으로써 올바른 MHG 비율에 대한 수학적으로 엄밀한 유도를 제공하고, 앤드리에와 두셰의(1999) 초석 논문에 수정을 적용하여, 잘못된 수용 확률으로 인해 사전에 잘못된 모델 분포가 왜곡되었고, 특히 구성 요소 수가 적은 쪽으로 기울어졌음을 보여준다.

ABSTRACT

Reversible jump MCMC (RJ-MCMC) sampling techniques, which allow to jointly tackle model selection and parameter estimation problems in a coherent Bayesian framework, have become increasingly popular in the signal processing literature since the seminal paper of Andrieu and Doucet (IEEE Trans. Signal Process., 47(10), 1999). Crucial to the implementation of any RJ-MCMC sampler is the computation of the so-called Metropolis-Hastings-Green (MHG) ratio, which determines the acceptance probability for the proposed moves. It turns out that the expression of the MHG ratio that was given in the paper of Andrieu and Doucet for "Birth-or-Death" moves---the simplest kind of trans-dimensional move, used in virtually all applications of RJ-MCMC to signal decomposition problems---was erroneous. Unfortunately, this mistake has been reproduced in many subsequent papers dealing with RJ-MCMC sampling in the signal processing literature. This note discusses the computation of the MHG ratio, with a focus on the case where the proposal kernel can be decomposed as a mixture of simpler kernels, for which the MHG ratio is easy to compute. We provide sufficient conditions under which the MHG ratio of the mixture can be deduced from the MHG ratios of the elementary kernels of which it is composed. As an application, we consider the case of Birth-or-Death moves, and provide a corrected expression for the erroneous ratio in the paper of Andrieu and Doucet.

연구 동기 및 목표

• 신호 분해에 사용되는 전이차원 MCMC 알고리즘 내 Birth-or-Death 이동에 대한 MHG 비율에서 오랫동안 지속된 오류를 특정하고 수정하기.
• 제안 커널이 간단한 커널들의 혼합일 경우 MHG 비율을 계산하는 일반적 프레임워크를 제공하기.
• 앤드리에와 두셰(1999)의 수식에서 발생하는 오류가 사전에 잘못된 모델 선택을 유도하며, 구성 요소 수가 적은 쪽으로 기울어지게 함을 보여주기.
• 알 수 없는 정현성 성분 수를 가진 신호 분해 문제에 적용 가능한 수정된, 수학적으로 타당한 MHG 비율 표현을 제공하기.
• 향후 신호 처리 논문들에서 오류가 계속 퍼지지 않도록 방지하기.

제안 방법

• 혼합 제안 커널에 대한 MHG 비율을 유도하기 위해, 혼합 비율이 기본 성분의 비율로부터 유추될 수 있는 충분조건를 설정한다.
• 일반적 프레임워크를 신호 분해에서의 Birth-or-Death 이동에 적용하여, 제안 커널이 정현성 성분을 삽입하거나 제거하는 데 해당하는 커널들의 혼합임을 고려한다.
• 세 가지 표현 방식을 고려: 정렬되지 않은 벡터, 정렬된 벡터, 점 과정으로, 교환 가능성 조건 하에서 MHG 비율 계산이 동치임을 보인다.
• 핵심 오류 규명: 원래 수식에서는 새로운 성분을 항상 끝에 삽입한다고 가정하지만, 死亡 이동에서는 임의의 성분을 선택하도록 허용하여, 상호작용의 일관성이 깨지고, 마지막 성분 이외의 성분에 대해 수용 확률이 0이 되는 원인이 된다.
• 세부 균형 조건과 정확한 자코비안 및 제안 밀도 비율을 고려한 수정된 MHG 비율(식 5)을 유도하여, 정확한 사후 분포를 목표로 하는 마코프 체인을 보장한다.
• 포isson 및 가속화된 포아송 사전 분포를 사용하여 모델 차원에 대한 사후 모델 빈도를 비교함으로써 시뮬레이션을 통한 검증을 수행한다.

실험 결과

연구 질문

• RQ1 왜 앤드리에와 두셰(1999) 논문에서 Birth-or-Death 이동에 대한 MHG 비율에 근본적인 오류가 존재하는가?
• RQ2 혼합 제안 커널의 MHG 비율이 구성 요소의 비율로부터 계산될 수 있는 조건은 무엇인가?
• RQ3 잘못된 MHG 비율이 신호 분해 문제에서 사후 모델 선택에 어떤 영향을 미치는가?
• RQ4 정렬되지 않은 또는 정렬된 정현성 성분 표현을 사용할 경우, Birth-or-Death 이동에 대한 올바른 MHG 비율은 무엇인가?
• RQ5 왜 오류가 있는 수용 확률이 모델 차원의 사후 분포에서 구성 요소 수가 적은 쪽으로 체계적인 이동을 유도하는가?

주요 결과

• 앤드리에와 두셰(1999) 논문의 MHG 비율은 잘못되어 있으며, 이는 태어나는 이동에서 새로운 성분을 항상 끝에 삽입한다고 가정하지만, 死亡 이동에서는 임의의 성분을 제거할 수 있도록 허용함으로써 세부 균형 조건을 위반하기 때문이다.
• 수정된 MHG 비율(식 5)은 정확한 자코비안과 제안 밀도 비율을 반영하여, 마코프 체인이 정확한 사후 분포를 목표로 하도록 보장한다.
• 시뮬레이션 결과는 잘못된 비율을 사용할 경우 모델 차원 $k$의 사후 분포가 상당히 왼쪽으로 이동하여 구성 요소 수가 적은 쪽으로 기울어지는 것으로 나타났으며, 특히 비균일 사전 분포(예: 가속화된 포아송)에서 두드러진다.
• 이 오류는 14개 이상의 후속 신호 처리 논문들에 재현되었으며, 모두 정확한 베이지안 추론을 보장하기 위해 수정이 필요하다.
• 수정된 비율은 마지막 성분 이외의 성분을 제거하려는 死亡 이동에 대해 수용 확률이 0이 되도록 하여, 태어나는 이동 메커니즘과 일관성을 유지한다.
• 이 연구는 MCMC 수용 비율에 대한 작은 오류라도 유력해 보이지만 잘못된 사후 추론을 초래할 수 있음을 강조하며, 철저한 측도 이론적 기초의 중요성을 부각시킨다.