[논문 리뷰] Construction of Confidence Intervals

Christoph Dalitz|arXiv (Cornell University)|2018. 07. 10.

Statistical Methods and Bayesian Inference참고 문헌 9인용 수 7

한 줄 요약

이 기술 보고서는 이항 비율, 평균, 최대우도(ML) 추정량 등 다양한 추정량에 대해 신뢰구간 구축 방법—빈도주의, 우도비, 베이지안(HPD), 부트스트랩—을 종합적으로 비교한다. 몬테카를로 시뮬레이션을 통해 신뢰도 확률과 구간 길이의 상충 관계를 분석한 결과, 비율의 경우 윌슨 구간, 평균의 경우 t-구간, 매끄러운 ML 추정량의 경우 헤시안 또는 잭나이프 기반 구간, 비매끄럽거나 임의의 추정량의 경우 BCa 부트스트랩을 권장한다.

ABSTRACT

Introductory texts on statistics typically only cover the classical "two sigma" confidence interval for the mean value and do not describe methods to obtain confidence intervals for other estimators. The present technical report fills this gap by first defining different methods for the construction of confidence intervals, and then by their application to a binomial proportion, the mean value, and to arbitrary estimators. Beside the frequentist approach, the likelihood ratio and the highest posterior density approach are explained. Two methods to estimate the variance of general maximum likelihood estimators are described (Hessian, Jackknife), and for arbitrary estimators the bootstrap is suggested. For three examples, the different methods are evaluated by means of Monte Carlo simulations with respect to their coverage probability and interval length. R code is given for all methods, and the practitioner obtains a guideline which method should be used in which cases.

연구 동기 및 목표

• 평균에 대한 고전적인 '두 시그마 규칙'을 초월한 체계적인 신뢰구간 구축 지침의 부족을 해결하기 위해.
• 빈도주의, 우도비, HPD, 부트스트랩 등의 다양한 신뢰구간 방법을 다양한 추정량에 대해 평가하고 비교하기 위해.
• 신뢰도 확률과 구간 길이 같은 실증적 성능 지표를 바탕으로 실용적인 권고를 제공하기 위해.
• 모든 방법에 대한 R 코드 구현을 제공하여 재현성과 실무자 활용을 지원하기 위해.
• 모델의 복잡성이나 비매끄러운 우도 함수가 존재할 경우, 파rametric 방법이 비모수적 부트스트랩보다 언제 더 선호되어야 하는지 명확히 하기 위해.

제안 방법

• 기본 개념 정의: 추정량, 신뢰도 확률, 우도비, 후행 밀도 등 통계적 추론에 핵심적인 개념을 정의한다.
• 최대우도 추정량에 대해 헤시안 행렬 또는 잭나이프 재표본 추출을 통해 표준오차를 추정하는 빈도주의 접근을 적용한다.
• 우도비 방법을 사용하여 로그우도가 임계값(예: 최대값의 1/8)을 초과하는 영역을 기반으로 구간을 구성한다.
• 비정보성 사전을 사용한 베이지안 프레임워크 하에서 최고 후행 밀도(HPD) 접근법을 적용한다.
• 파arametric 가정이 성립하지 않을 경우, 임의의 추정량에 대해 부트스트랩 방법—특히 기본, 백분위수, BCa 구간—을 사용한다.
• 이항분포, 정규분포, 지수분포 등 다양한 분포에서의 신뢰도 확률과 평균 구간 길이를 평가하기 위해 10^6회의 몬테카를로 시뮬레이션을 수행한다.

실험 결과

연구 질문

• RQ1 이항비율에 대해 가장 정확한 신뢰도 확률을 제공하는 신뢰구간 방법은 무엇이며, 윌슨 및 HPD 구간과 비교해 볼 때 어떻게 다를까?
• RQ2 정규분포에서의 평균에 대해 고전적인 t-구간, 헤시안 기반, 잭나이프 기반 구간은 어떻게 성능을 보이는가?
• RQ3 비정규 또는 비대칭 분포에서 ML 추정량에 대해 부트스트랩 구간(기본, 백분위수, BCa)은 파arametric 구간 대비 어떻게 성능을 보이는가?
• RQ4 왜 부트스트랩 방법은 때로 작은 표본에서 명목 수준보다 낮은 신뢰도 확률을 보이는가?
• RQ5 어떤 상황에서 파arametric 방법이 부트스트랩 방법보다 선호되어야 하는가? 추정량의 편향은 구간의 신뢰도에 어떤 역할을 하는가?

주요 결과

• 이항비율에 대해 표준 정규 근사보다 윌슨 구간이 더 우수한 신뢰도 확률을 보이며, 특히 p = 0 또는 1 근처에서 두드러진다.
• 정규분포에서 평균에 대해 고전적인 t-구간이 명목 수준에 가장 가까운 정확한 신뢰도 확률을 제공한다.
• 로그우도가 매끄러운 ML 추정량에 대해 헤시안 기반 표준오차가 가장 높은 신뢰도 확률을 보이며, 그 다음으로 잭나이프 기반 추정치가 이어진다.
• BCa 부트스트랩 구간은 비대칭 또는 비정규 설정에서 기본 및 백분위수 부트스트랩 구간보다 항상 뛰어난 신뢰도 확률을 보인다.
• 부트스트랩 방법은 보편적으로 적용 가능하지만, 특히 ML 추정량이 편향될 경우 명목 수준 이하의 신뢰도 확률을 보일 수 있으며, 지수분포 사례에서 이를 확인할 수 있다.
• 헤시안 기반 구간은 추정 표준오차와 추정량 편향 간의 상관관계를 통해 ML 추정량의 편향을 보완함으로써, 넓은 구간임에도 불구하고 더 나은 신뢰도를 제공한다.