[논문 리뷰] On the Power of Likelihood Ratio Tests in Dimension-Restricted Submodels

Michael W. Trosset, Mingyue Gao외 1명|arXiv (Cornell University)|2016. 07. 29.

Statistical Distribution Estimation and Applications참고 문헌 6인용 수 3

한 줄 요약

이 논문은 삼항분포에서 하드이-바이너의 평형과 같은 저차원 부분모형으로 제한된 경우, 유사비검정(LRT)이 더 강력한가를 조사한다. 점근적 이론에 따르면 제한된 LRT가 더 강력한 것으로 나타나지만, 유한 표본에서의 반례—특히 다항분포 부분모형에서—는 제한된 LRT가 비제한된 LRT보다 덜 강력할 수 있음을 보여주며, 차원 제한 추론에 대한 오랫동안 지속된 추측에 도전한다.

ABSTRACT

Likelihood ratio tests are widely used to test statistical hypotheses about parametric families of probability distributions. If interest is restricted to a subfamily of distributions, then it is natural to inquire if the restricted LRT is superior to the unrestricted LRT. Marden's general LRT conjecture posits that any restriction placed on the alternative hypothesis will increase power. The only published counterexample to this conjecture is rather technical and involves a restriction that maintains the dimension of the alternative. We formulate the dimension-restricted LRT conjecture, which posits that any restriction that replaces a parametric family with a subfamily of lower dimension will increase power. Under standard regularity conditions, we then demonstrate that the restricted LRT is asymptotically more powerful than the unrestricted LRT for local alternatives. Remarkably, however, even the dimension-restricted LRT conjecture fails in the case of finite samples. Our counterexamples involve subfamilies of multinomial distributions. In particular, our study of the Hardy-Weinberg subfamily of trinomial distributions provides a simple and elegant demonstration that restrictions may not increase power.

연구 동기 및 목표

• 제한된 대립가설이 저차원 부분모형으로 제한될 경우, 유사비검정의 검정력이 증가하는가 평가하기.
• 차원 제한 LRT 추측의 타당성을 검증하기—즉, 차원 감소가 항상 검정력을 향상시킨다는 주장.
• 유한 표본에서 제한된 LRT가 비제한된 LRT를 능가하지 못할 조건을 특정하기.
• 하드이-바이너 평형을 가진 삼항분포를 사용한 반례를 제시하여 제한 추론에 대한 일반적인 가정에 도전하기.

제안 방법

• 차원 제한 LRT 추측을 정식화: 대립가설의 차원을 감소시키는 모든 제한이 검정력을 증가시킨다.
• 표준 정규성 조건 하에서 점근적 이론을 적용하여, 국소 대안에 대해 제한된 LRT가 비제한된 LRT보다 점근적으로 더 강력하다는 것을 보여주기.
• 삼항분포의 하드이-바이너 부분모형을 사용하여 명시적인 유한 표본 반례를 구성하기.
• 하드이-바이너 제약 조건 하에서 제한된 LRT의 검정력 함수를 유도하고, 비제한된 LRT와 수치적으로 비교하기.
• 수치 계산을 통해 제한된 LRT의 검정력이 작은 대안 구간에서 유의수준 α 이하로 떨어지는 것을 보여주어 편향을 입증하기.
• 다른 다항분포 부분모형—특히 고차원 또는 코차원이 1 초과인 경우—로 결과를 확장하여 반례의 일반성 테스트하기.

실험 결과

연구 질문

• RQ1 대립가설을 저차원 부분모형으로 제한하는 것은 항상 유사비검정의 검정력을 증가시키는가?
• RQ2 유한 표본에서 차원 제한 LRT 추측이 어떤 조건에서 실패하는가?
• RQ3 서브모형이 잘 정의되어 있더라도, 특정 대안에 대해서는 제한된 LRT가 비제한된 LRT보다 덜 강력할 수 있는가?
• RQ4 작은 표본 크기에서 하드이-바이너 삼항분포 모형에서 제한된 LRT의 검정력은 비제한된 LRT와 어떻게 비교되는가?
• RQ5 제한된 LRT가 편향을 보이기 때문에 검정력이 명목적 크기보다 낮아지는 특정 매개변수 값이 존재하는가?

주요 결과

• 표준 정규성 조건 하에서 점근적으로는 차원 제한 LRT 추측이 성립하며, 국소 대안에 대해 제한된 LRT가 비제한된 LRT보다 점근적으로 더 강력하다.
• 유한 표본에서는 하드이-바이너 부분모형의 반례를 통해 제한된 LRT가 비제한된 LRT보다 덜 강력할 수 있음을 보여주었다.
• n=10, α=0.05일 때 하드이-바이너 모형에서 τ=0.3 근처의 작은 대안 구간에서 제한된 LRT의 검정력은 α 이하로 떨어지며, 이는 편향을 의미한다.
• 비제한된 LRT와 제한된 LRT의 검정력 차이는 균일하지 않다. 예를 들어 τ∈(0,0.3) 영역에서는 제한된 LRT가 더 강력하지만, τ∈(0.3,1) 영역에서는 더 덜 강력하다.
• 이 반례는 비정상적이지 않다—하드이-바이너 부분모형은 잘 정의된 곡선 지수가족이며, 정규 1파rameter 지수가족이지만 여전히 추측을 무효화한다.
• 다른 다항분포 부분모형—차원 또는 코차원이 1 초과인 경우—에서도 추가 반례가 존재하여, 이 현상은 하드이-바이너 사례에 국한되지 않음을 시사한다.