[논문 리뷰] Bayesian Estimation of Inverse Gaussian Distribution

B.N. Pandey, Pulastya Bandyopadhyay|arXiv (Cornell University)|2012. 10. 16.

Statistical Methods and Bayesian Inference참고 문헌 18인용 수 13

한 줄 요약

이 논문은 정보가 풍부한 사전분포 하에서 매개수 추정을 위한 게이브스 샘플링에 초점을 맞춘 마르코프 체인 몬테카를로(MCMC) 방법을 사용하여 역가우시안 분포에 대한 종합적인 베이지안 분석을 제시한다. MCMC 기반 추론, 특히 최고 후행 밀도(HPD) 구간과 후행 모드가 비대칭이고 비정규적인 후행분포에서 전통적 방법보다 우수한 점 추정 및 구간 추정을 제공함을 보여준다. 이는 척도 및 형상 매개수 모두에 대해 더 나은 성능을 발휘한다.

ABSTRACT

In this paper we consider Bayesian estimation for the parameters of inverse Gaussian distribution. Our emphasis is on Markov Chain Monte Carlo methods. We provide complete implementation of the Gibbs sampler algorithm. Assuming an informative prior, Bayes estimates are computed using the output of the Gibbs sampler and also from Lindley's approximation method. Maximum Likelihood and Uniformly Minimum Variance Unbiased estimates are obtained as well. We also compute Highest Posterior Density credible intervals, exact confidence intervals as well as "percentile" and "percentile-t" bootstrap approximations to the exact intervals. A simulation study was conducted to compare the long-run performance of the various point and interval estimation methods considered. One real data illustration has been provided which brings out some salient features of sampling-based approach to inference.

연구 동기 및 목표

• 역가우시안 분포의 매개수(μ, λ)에 대한 완전하고 구현 가능한 게이브스 샘플러를 개발하는 것.
• 정보가 풍부한 사전분포 하에서 MCMC 기반 베이지안 추정의 성능을 전통적 방법(MLE, UMVUE) 및 린들리의 근사법과 비교하는 것.
• HPD, 정확한 신뢰구간, 부트스트랩 구간을 포함한 다양한 구간 추정 기법의 정확성과 신뢰성을 평가하는 것.
• 역가우시안 모델에서 흔히 나타나는 비정규적이고 비대칭적인 후행분포를 다룰 때 샘플링 기반 베이지안 방법의 장점을 입증하는 것.

제안 방법

• μ와 λ에 대해 독립적인 감마 사전분포를 사용하여 게이브스 샘플러 내에서 공액(full conjugate) 조건부 분포를 가능하게 한다.
• 우도와 사전밀도에서 유도된 조건부 후행분포를 기반으로 완전한 게이브스 샘플링 알고리즘을 구현한다.
• MCMC 없이도 베이즈 추정치를 계산하기 위해 린들리의 근사를 적용하여 계산 효율성의 기준이 되는 기준점으로 삼는다.
• 정규화된 후행밀도를 사용하여 역변환 샘플링을 통해 μ의 전체 조건부 분포에서 난수를 생성하고, '백분위수' 및 '백분위수-t' 방법을 사용하여 부트스트랩을 수행한다.
• 후행 요약 통계량을 후행 평균과 모드를 모두 사용하여 평가하며, 특히 비대칭 분포에서 모드의 우수성을 강조한다.

실험 결과

연구 질문

• RQ1 비대칭 후행분포에서 MCMC 기반 베이지안 추정(게이브스 샘플링)이 전통적 방법(MLE 및 UMVUE)에 비해 척도 매개수 μ와 형상 매개수 λ의 편향과 평균제곱오차 측면에서 어떻게 성능이 다른가?
• RQ2 후행분포가 비대칭일 경우 HPD 구간이 등분위수 신뢰구간보다 더 정확한 커버리지 성질을 제공하는가?
• RQ3 린들리의 근사는 MCMC 결과에 비해 베이즈 추정치를 얼마나 정확하게 근사하는가?
• RQ4 정보가 풍부한 사전분포를 사용할 경우 소형에서 중형 표본 크기에서 추정 정확도가 향상되는가?
• RQ5 정규화된 부트스트랩 구간(백분위수 및 백분위수-t 방법)이 정확한 구간과 HPD 구간에 비해 상대적으로 어떤 성능을 보이는가?

주요 결과

• 비정보적 사전분포를 사용하더라도 게이브스 샘플러는 원활하고 효율적으로 수렴하여 수렴 문제 없이 안정적인 후행분포 계산이 가능하다.
• 척도 매개수 μ의 경우, 후행 모드가 후행 평균보다 데이터에 더 잘 맞는다. 특히 후행분포가 비대칭일 경우 더욱 두드러진다.
• 후행분포의 비대칭성으로 인해 HPD 구간이 등분위수 구간보다 μ에 더 적합하며, 더 나은 커버리지 성질을 제공한다.
• 린들리의 근사는 MCMC 결과와 유사한 추정치를 제공하지만, 매우 비대칭적이거나 복잡한 후행분포 형태에서는 정확도가 떨어진다.
• 정규화된 부트스트랩의 '백분위수-t' 방법은 정확한 신뢰구간에 매우 가까이 근사하며, 표준 백분위수 방법보다 성능이 뛰어나다.
• MCMC 기반 추론은 후행분포의 구조에 대한 고유한 통찰을 제공하여, 더 나은 추정 및 구간 추정 절차 선택에 기여한다.