[논문 리뷰] An imprecise-probabilistic characterization of frequentist statistical inference

Ryan R. Martin|arXiv (Cornell University)|2021. 12. 20.

Statistical Mechanics and Entropy인용 수 8

한 줄 요약

이 논문은 빈도주의 통계적 추론—특히 p-값과 신뢰구간—이 모호한 확률 이론, 구체적으로 일관된 가능성 함수를 통해 엄밀하게 기술될 수 있음을 입증한다. 이는 모든 유효한 빈도주의 절차가 오류율 제어를 유지하는 가능도 측도에 대응하며, p-값을 확률이 아닌 가능성 측도로 수학적으로 타당하게 해석할 수 있음을 보여준다.

ABSTRACT

Between the two dominant schools of thought in statistics, namely, Bayesian and classical/frequentist, a main difference is that the former is grounded in the mathematically rigorous theory of probability while the latter is not. In this paper, I show that the latter is grounded in a different but equally mathematically rigorous theory of imprecise probability. Specifically, I show that for every suitable testing or confidence procedure with error rate control guarantees, there exists a consonant plausibility function whose derived testing or confidence procedure is no less efficient. Beyond its foundational implications, this characterization has at least two important practical consequences: first, it simplifies the interpretation of p-values and confidence regions, thus creating opportunities for improved education and scientific communication; second, the constructive proof of the main results leads to a strategy for new and improved methods in challenging inference problems.

연구 동기 및 목표

• 빈도주의 추론의 기초적 간극을 해소하기 위해, 그것이 모호한 확률 이론의 수학적으로 엄밀한 프레임워크에 기반함을 보여주는 것.
• p-값과 신뢰구간을 확률로 잘못 해석하는 광범위한 오해를 다루어, 혼동을 초래하고 복제 위기의 원인이 되는 것을 방지하는 것.
• 클래식한 통계적 출력을 가능성 측도를 사용해 일관되고 직관적이며 수학적으로 타당하게 해석하는 것.
• 빈도주의 절차가 잘 정의된 모호한 확률 모델에서 유도될 수 있음을 보여주어, 현대적 불확실성 정량화 이론과 일치시킴으로써 통합하는 것.
• 모호한 확률 이론에 대한 사전 지식 없이도 가능성 기반의 해석으로 대체함으로써 통계 교육과 과학적 소통을 향상시키는 것.

제안 방법

• Martin과 Liu(2015b)의 추론 모델(IM) 프레임워크를 사용하여 중첩된 랜덤 세트에서 유효한 가능성 측도를 구성한다.
• 일관된 가능성 함수를 특수한 모호한 확률 모델의 일군으로 정의하여 오류율 제어의 유효성을 보장한다.
• 어떤 유효한 빈도주의 절차(예: t-검정, ANOVA, 선형 회귀)도 그 오류율 보장을 재현하는 해당하는 가능성 함수로 매핑하는 방법을 구성한다.
• 가능성 측도의 부분합성 성질을 적용하여, p-값을 귀무가설에 대한 반증 증거의 척도로 보는 직관적 해석을 정당화한다.
• 유도된 가능성 기반의 해석이 논리적으로 일관되며, p-값을 후행 확률로 오해하는 문제를 피함을 보여준다.
• 빈도주의 추론과 모호한 확률 사이에 이론적 다리를 구축하여, 빈도주의 방법의 유효성이 모호한 확률 프레임워크에서의 일관성과 대응됨을 보여준다.

실험 결과

연구 질문

• RQ1 빈도주의 추론은 모호한 확률 이론의 수학적 이론에 엄밀하게 기반시킬 수 있는가?
• RQ2 p-값과 신뢰구간은 오류율 제어를 유지하는 잘 정의된 가능성 측도에 해당하는가?
• RQ3 p-값을 '근거가 되는 가설의 가능성'으로 보는 직관적 해석을 베이지안 후행 확률에 의존하지 않고도 수학적으로 엄밀하게 만들 수 있는가?
• RQ4 샘플링 성질을 그대로 유지하는 효율적인 빈도주의 절차를 가능성 함수에서 일반적으로 유도할 수 있는 방법이 있는가?
• RQ5 이 모호한 확률 기반 특성화는 과학 및 교육 분야에서 통계 결과의 해석과 소통을 어떻게 향상시키는가?

주요 결과

• 오류율 제어를 보장하는 유효한 빈도주의 검정 또는 신뢰구간 절차가 존재하는 한, 그 절차의 효율성과 동등하거나 더 높은 성능을 보장하는 일관된 가능성 함수가 존재한다.
• 표준 절차(예: t-검정, ANOVA, 선형 회귀)에서 유도된 p-값과 신뢰구간은 IM 프레임워크 하에서 정확히 가능성 측도에 해당한다.
• p-값의 가능성 해석—'관측된 데이터를 바탕으로 귀무가설이 얼마나 가능성 있는가'—은 모호한 확률 프레임워크 내에서 수학적으로 정확하고 일관된다.
• 이 프레임워크는 p-값을 후행 확률로 오해하는 일반적인 오류를 피하여 통계 실무에서 주요한 혼동의 근본 원인을 해결한다.
• 이 특성화는 데 파르티의 정확한 확률에 대한 딜레티의 일관성과 유사한 빈도주의 일관성 이론을 가능하게 하며, 유효성과 확실한 손실 방지를 포함한다.
• 이 접근법은 통계 교육 향상에 기여한다: 학생들은 모호한 확률 이론에 대한 사전 지식 없이도 가능성 기반의 해석으로 p-값과 신뢰구간을 이해할 수 있다.