[논문 리뷰] Fletcher-Turek Model Averaged Profile Likelihood Confidence Intervals

Paul Kabaila, A. H. Welsh외 1명|2014. 04. 28.

Statistical Methods and Bayesian Inference참고 문헌 12인용 수 14

한 줄 요약

이 논문은 두 모델 선형 회귀 설정에서 매개변수에 대한 Fletcher-Turek 모델 평균화 프로파일 우도 신뢰구간(MPI)을 평가한다. MPI는 명목 수준에 비해 상당히 낮은 피커지율을 보일 수 있으며, 특히 p/n 이 작지 않을 경우 그러한 경향이 뚜렷하며, 모델 선택 후 간단한 구간과 성능이 비슷하여 실제 응용에서의 유용성이 떨어지지만 이론적으로는 매력적인 것으로 드러난다.

ABSTRACT

We evaluate the model averaged profile likelihood confidence intervals proposed by Fletcher and Turek (2011) in a simple situation in which there are two linear regression models over which we average. We obtain exact expressions for the coverage and the scaled expected length of the intervals and use these to compute these quantities in particular situations. We show that the Fletcher-Turek confidence intervals can have coverage well below the nominal coverage and expected length greater than that of the standard confidence interval with coverage equal to the same minimum coverage. In these situations, the Fletcher-Turek confidence intervals are unfortunately not better than the standard confidence interval used after model selection but ignoring the model selection process.

연구 동기 및 목표

• 두 모델 선형 회귀 설정에서 Fletcher-Turek 모델 평균화 프로파일 우도 신뢰구간(MPI)의 빈도주의 성질을 평가하기 위해.
• 모델 선택을 忽시하는 표준 구간과 비교할 때, 피커지율과 기대 길이 측면에서 MPI가 개선되는지 평가하기 위해.
• p/n 이 작지 않거나 |ρ| 가 클 경우 MPI가 실패하는 조건을 특정하기 위해.
• 선택된 모델를 고정된 것으로 간주하는 단순 모델 선택 후 구간과 MPI의 성능를 비교하기 위해.
• 모수적 불확실성 매개변수에 대해 균일한 성능을 평가하기 위해 피커지율과 기대 길이에 대한 정확한 해석적 표현을 제공하기 위해.

제안 방법

• 저자들은 두 선형 회귀 모델(M₂: 전체 매개변수 포함, M₁: 선형 제약 조건 포함)에서 MPI의 피커지율과 비례 기대 길이에 대한 정확한 표현을 유도한다.
• MPI는 AIC 점수의 지수화로 유도된 AIC 기반 가중치를 사용해 모델 간에 프로파일 우도 구간 식을 평균화함으로써 구성된다.
• 분석은 둘 다에 공통된 매개변수 θ를 대상으로 하며, 비비례성 없는 t-분포의 비비례성 비율을 결정하는 알려지지 않은 진짜 값 γ = τ / (σ v_τ^{1/2}) 에 대해 평가된다.
• 시뮬레이션 변동성을 피하기 위해 γ 전역에서 최소 피커지율과 최대 비례 기대 길이를 정확한 계산으로 산출한다.
• p/n 과 ρ(θ와 τ 추정량 간 상관관계)가 성능에 미치는 영향을 분석적 유도와 수치적 도표를 통해 분석한다.
• MPI 성능은 M₂에서의 표준 프로파일 우도 구간과 모델 선택을 忽시하는 단순 모델 선택 후 구간과 비교된다.

실험 결과

연구 질문

• RQ1 두 회귀 모델 평균화에서 Fletcher-Turek 모델 평균화 프로파일 우도 신뢰구간(MPI)이 유한 표본에서 명목 수준의 피커지율을 달성하는가?
• RQ2 MPI의 피커지율은 p/n 과 θ 및 τ 추정량 간 상관관계 ρ에 따라 어떻게 변하는가?
• RQ3 p/n 이 작지 않을 경우 MPI의 기대 길이가 표준 구간과 경쟁력이 있는가?
• RQ4 MPI는 모델 선택 과정을 忽시하는 단순 모델 선택 후 구간보다 성능이 뛰어나지 않는가?
• RQ5 MPI가 적절한 피커지율이나 효율성을 유지하지 못하는 조건은 무엇인가?

주요 결과

• MPI의 최소 피커지율은 M₂에서의 프로파일 우도 구간의 피커지율 이하로 제한되며, p/n 이 작지 않을 경우 명목 수준보다 상당히 낮다.
• p/n = 2/3 이고 ρ = 0.2472 인 구름 뿌리기 사례에서 MPI의 최소 피커지율은 약 0.728로 명목 수준 0.95에 훨씬 못 미친다.
• MPI의 비례 기대 길이는 모든 γ 값에서 1에 가까워, 표준 0.728 수준의 신뢰구간과 유사하게 성능을 보인다.
• 큰 |ρ| 또는 비작은 p/n 설정에서는 MPI가 낮은 피커지율을 보이며, 피커지율 균일성 측면에서 단순 모델 선택 후 구간에 뒤지게 된다.
• MPI는 특히 p/n 이 작지 않을 경우 열악한 성능을 보이는 기본 프로파일 우도 구간의 영향을 그대로 이어받으며, 실용적 유용성이 제한된다.
• 결과적으로, p/n 이 작지 않은 한 모델 평균화 프로파일 우도 구간이 효과적이지 않으며, 더 나은 행동을 보이는 구간을 위한 대안적 평균화 방법이 필요할 수 있음을 시사한다.