[논문 리뷰] Estimation and tests for models satisfying linear constraints with unknown parameter

Michel Broniatowski, Amor Keziou|ArXiv.org|2008. 11. 21.

Advanced Statistical Methods and Models참고 문헌 32인용 수 6

한 줄 요약

이 논문은 unknown parameter를 포함하는 선형 제약 조건이 있는 통계 모델에서의 매개수 추정 및 가설 검정을 위한 산산분포 최소화 프레임워크를 제안한다. 경험적 유사도 및 일반화된 경험적 유사도 방법을 확장함으로써, 최소 산산분포 추정기의 점근적 정규성과 효율성을 확립하며, Hellinger 산산분포는 시뮬레이션에서 강력한 내구성과 효율성을 보여준다.

ABSTRACT

We introduce estimation and test procedures through divergence minimization for models satisfying linear constraints with unknown parameter. Several statistical examples and motivations are given. These procedures extend the empirical likelihood (EL) method and share common features with generalized empirical likelihood (GEL). We treat the problems of existence and characterization of the divergence projections of probability measures on sets of signed finite measures. Our approach allows for a study of the estimates under misspecification. The asymptotic behavior of the proposed estimates are studied using the dual representation of the divergences and the explicit forms of the divergence projections. We discuss the problem of the choice of the divergence under various respects. Also we handle efficiency and robustness properties of minimum divergence estimates. A simulation study shows that the Hellinger divergence enjoys good efficiency and robustness properties.

연구 동기 및 목표

• 알려지지 않은 매개수를 포함하는 선형 제약 조건으로 정의된 통계 모델에 대한 추정 및 검정 절차를 개발하기 위해.
• 경험적 유사도 및 일반화된 경험적 유사도 방법을 알 수 없는 매개수가 선형 제약 조건에 포함된 모델을 다룰 수 있도록 확장하기 위해.
• 이중성 및 산산분포 투영 이론을 사용하여 모형 불일치 하에서 최소 산산분포 추정기의 점근적 행동을 연구하기 위해.
• 다양한 산산분포 측정 방식에 대한 최소 산산분포 추정기의 효율성과 내구성을 평가하기 위해.
• 알려지지 않은 매개수에 대한 신뢰 영역을 구축하고, 경험적 분포함수를 초월한 누적분포함수 추정을 향상시키기 위해.

제안 방법

• 경향성 최소화를 사용하여 경험적 측도를 선형 제약 조건을 만족하는 부호가 있는 유한 측도 집합 위로 투영한다.
• 산산분포의 이중 표현을 적용하여 정규 조건 하에서 추정기의 점근적 분포를 유도한다.
• 산산분포 투영 프레임워크를 활용하여 최소 산산분포 추정기의 존재성과 유일성을 특성화한다.
• 추정식에 대한 테일러 전개와 중심극한정리에 의해 매개수 추정기의 점근적 정규성을 도출한다.
• 산산분포 최소화 가중치를 기반으로 한 수정된 경험적 분포함수를 도입하여 표준 경험적 CDF를 향상시킨다.
• 헤시안 행렬과 정보 행렬의 명시적 형태를 사용하여 분포함수 추정기의 점근적 분산 표현을 유도한다.

실험 결과

연구 질문

• RQ1 알려지지 않은 매개수를 포함하는 선형 제약 조건이 있는 모델에서 산산분포 최소화를 사용하여 추정 및 검정을 수행하는 방법은 무엇인가?
• RQ2 모형 불일치 하에서 최소 산산분포 추정기의 점근적 성질은 무엇인가?
• RQ3 예를 들어 Hellinger, Kullback-Leibler 등 어떤 산산분포 측정 방식이 이 프레임워크에서 효율성과 내구성의 최적 균형을 제공하는가?
• RQ4 제안된 방법은 경험적 CDF보다 누적분포함수의 추정을 더 효율적으로 제공할 수 있는가?
• RQ5 분포함수 추정기의 점근적 분산은 제약 조건의 구조와 산산분포 선택에 어떻게 의존하는가?

주요 결과

• 제안된 최소 산산분포 추정기는 정규 조건 하에서 점근적으로 정규분포를 따르며, 수렴 속도는 $O_P(1/\nu{n})$ 순서이다.
• 분포함수 추정기의 점근적 분산은 $W(x) = F(x)(1-F(x)) - [P_0(g(\theta_0)\bone_{(-∞,x]})]^T \Gamma [P_0(g(\theta_0)\bone_{(-∞,x]})]$ 로 주어지며, 여기서 $\Gamma$ 는 제약 조건과 스코어 함수에 따라 정의되는 행렬이다.
• 제안된 프레임워크 하에서 매개수 $\theta_0$ 와 산산분포 투영 $c_{\theta}$ 의 추정기는 점근적으로 상관이 없다.
• Hellinger 산산분포는 시뮬레이션 연구를 통해 뛰어난 효율성과 내구성을 보이는 추정기를 제공한다.
• 제안된 누적분포함수 추정기는 특히 모형 불일치 하에서 경험적 CDF보다 더 우수한 유한 표본 성능을 달성한다.
• 정보가 있는 제약 조건이 있을 경우, 경험적 CDF에 비해 분포함수 추정기의 점근적 분산이 감소한다. 이는 제약 조건 다양체 위로의 투영 때문이다.