[논문 리뷰] On the Jeffreys-Lindley's paradox

Christian P. Robert|arXiv (Cornell University)|2013. 03. 24.

Philosophy and History of Science참고 문헌 16인용 수 6

한 줄 요약

이 논문은 베이지안 추론의 시각에서 제퍼리스–린들리 역설을 재고하며, 임의의 모수에 대한 근본적인 불일치를 드러내는 데서 비롯되는 빈도주의 통계와 베이지안 통계 간의 긴장 관계와 가법성 없는 사전 분포가 가설 검정에서 초래하는 함정을 강조한다. 기존의 해결책, 특히 스팬오스(2013)의 비판을 비판적으로 평가하며, 통계 이론과 실무에 대한 이 역설의 기초적 영향을 부각시킨다.

ABSTRACT

This paper discusses the dual interpretation of the Jeffreys–Lindley’s paradox associated with Bayesian posterior probabilities and Bayes factors, both as a differentiation between frequentist and Bayesian statistics and as a pointer to the difficulty of using improper priors while testing. We stress the considerable impact of this paradox on the foundations of both classical and Bayesian statistics. While assessing existing resolutions of the paradox, we focus on a critical viewpoint of the paradox discussed by Spanos (2013) in the current journal

연구 동기 및 목표

• 제퍼리스–린들리 역설의 이중적 해석, 즉 베이지안 사후 확률과 베이즈 요인 간의 관계를 명확히 하기 위해.
• 역설이 고전적 통계와 베이지안 통계의 기초에 대한 근본적인 도전임을 검토하기 위해.
• 특히 가단성 없는 사전 분포가 가설 검정에서 수행하는 역할을 배경으로, 기존의 해결책, 특히 스팬오스(2013)의 시각을 비판적으로 평가하기 위해.
• 모델 비교를 수행할 때 가단성 없는 사전 분포를 사용할 경우 초래하는 이론적 및 실무적 결과를 부각하기 위해.

제안 방법

• 다양한 표본 및 사전 분포 가정 하에서 사후 확률과 베이즈 요인의 행동을 대조함으로써, 역설을 베이지안 사후 확률과 베이즈 요인의 관점에서 분석한다.
• 큰 표본 설정에서 p-값과 사후 오즈 간의 분리 현상을 집중적으로 분석함으로써, 역설의 수학적 구조를 검토한다.
• 특히 가단성 없는 사전 분포가 역설적 결과를 초래하는 데서 수행하는 역할을 평가함으로써, 베이지안 가설 검정에서의 가단성 없는 사전 분포의 사용을 평가한다.
• 스팬오스(2013)의 비판을 검토하여 그 타당성과 통계적 추론에 대한 함의를 평가한다.
• 계산적 해결책보다 개념적 및 기초적 함의에 초점을 맞추며, 철학적 및 방법론적 일관성을 강조한다.

실험 결과

연구 질문

• RQ1 제퍼리스–린들리 역설은 표본 크기가 증가함에 따라 빈도주의 p-값과 베이지안 사후 확률 간의 근본적 불일치를 어떻게 드러내는가?
• RQ2 이 역설은 베이지안 가설 검정에서 가단성 없는 사전 분포의 한계를 어떤 방식으로 드러내는가?
• RQ3 스팬오스(2013)의 비판은 이 역설의 해결 또는 재구성에 어떻게 기여하는가?
• RQ4 이 역설은 빈도주의 및 베이지안 프레임워크에서 통계 추론의 기초에 대해 어떤 광범위한 함의를 지닌다?

주요 결과

• 역설은 단순한 귀무가설 하에서도 표본 크기가 증가함에 따라 p-값과 사후 오즈 간의 깊은 불일치를 부각시킨다.
• 가단성 없는 사전 분포는 가설 검정에서 일관되지 않은 베이지안 추론을 초래할 수 있으며, 이는 근본적으로 반대되는 증거가 있음에도 불구하고 귀무가설에 대해 임의로 강한 사후 지지를 초래할 수 있다.
• 역설은 가단성 없는 사전 분포에 의존하는 베이지안 방법이 데이터의 실제 증거를 반영하지 못할 수 있음을 드러내며, 이는 모델 비교에서의 사용을 의심스럽게 만든다.
• 스팬오스의 비판은 적절한 사전 분포와 체계적인 모형 선택의 필요성을 강조함으로써 타당성이 검증된다.
• 역설은 통계 이론에서 중요한 경고 사례로 남아 있으며, 일관된 사전 사양과 추론 프레임워크의 필요성을 강조한다.