[논문 리뷰] Some estimators of the PDF and CDF of the Lindley Distribution

Sudhansu S. Maiti, Indrani Mukherjee|arXiv (Cornell University)|2016. 04. 21.

Statistical Distribution Estimation and Applications참고 문헌 34인용 수 3

한 줄 요약

이 논문은 린들리 분포의 확률밀도함수(PDF)와 누적분포함수(CDF)에 대해 최대우도추정법(MLE), 일관된 최소분산 무편향추정법(UMVUE), 백분위수추정법(PCE), 최소제곱법(LSE), 가중최소제곱법(WLSE), 크라머-빈-마이즈추정법(CVME), 앤더슨-더링추정법(ADE)를 포함한 여러 추정법을 제안하고 비교한다. 몬테카를로 시뮬레이션을 통해 UMVUE는 최소 분산을 보이며 편향 없는 추정 클래스에서 최적임을 확인했지만, 평균제곱오차(MSE) 기준으로는 MLE가 더 우수함을 발견하여, 편향이 존재함에도 불구하고 전반적으로 MLE가 더 바람직하다고 결론 내린다.

ABSTRACT

This article addresses the different methods of estimation of the probability density function (PDF) and the cumulative distribution function (CDF) for the Lindley distribution. Following estimation methods are considered: uniformly minimum variance unbiased estimator (UMVUE), maximum likelihood estimator (MLE), percentile estimator (PCE), least square estimator (LSE), weighted least square estimator (WLSE), Cramér-von-Mises estimator (CVME), Anderson-Darling estimator (ADE). Monte Carlo simulations are performed to compare the performances of the proposed methods of estimation.

연구 동기 및 목표

• 린들리 분포의 PDF 및 CDF에 대한 다양한 추정법을 개발하고 비교함으로써, 매개수 추정에서 함수 추정으로의 초점을 이동시키는 것.
• MLE, UMVUE, PCE, LSE, WLSE, CVME, ADE 등의 다양한 추정 방법이 PDF 및 CDF에 대해 어떻게 작용하는지 평가하는 것.
• 특히 평균제곱오차(MSE) 기준으로 유한표본 성능을 몬테카를로 시뮬레이션을 통해 평가하는 것.
• 충분통계량과 조건부 분포를 기반으로 한 UMVUE의 해석적 표현을 도출하는 것.
• MLE는 편향이 존재하지만, UMVUE보다 MSE 성능이 뛰어나므로 실용적 선택으로서의 타당성을 입증하는 것.

제안 방법

• 불변성 원리를 사용하여 매개수 θ에 대한 최대우도추정법(MLE)을 유도한 후, 린들리 분포 공식에 대입하여 PDF 및 CDF를 추정하는 방식.
• 완전한 충분통계량 T = ΣXᵢ에 대한 X₁의 조건부 분포를 이용하여 바스의 정리와 레만-셰프 정리를 활용하여 PDF 및 CDF에 대한 UMVUE를 구성하는 방식.
• 실험적 값과 이론적 값 간의 제곱차이 합을 최소화하는 방식으로 최소제곱법(LSE) 및 가중최소제곱법(WLSE)에 기반한 PDF 및 CDF 추정법을 유도하는 방식.
• CDF를 역으로 풀어 백분위수를 추정하고, 관측된 백분위수와 이론적 백분위수 간의 가중제곱편차 합을 최소화하는 방식으로 백분위수추정법(PCE)을 제안하는 방식.
• 실험적 분포함수와 이론적 분포함수 간의 거리 함수를 최소화하는 원리에 기반하여 크라머-빈-마이즈추정법(CVME) 및 앤더슨-더링추정법(ADE)을 도출하는 방식.
• 1,000회의 반복을 포함한 몬테카를로 시뮬레이션을 통해 다양한 표본 크기에서 모든 추정법의 평균제곱오차(MSE)를 계산하고 비교하는 방식.

실험 결과

연구 질문

• RQ1 유한표본에서 린들리 분포의 PDF 및 CDF에 대해 어떤 추정법이 가장 낮은 평균제곱오차(MSE)를 제공하는가?
• RQ2 일관된 최소분산 무편향추정법(UMVUE)과 최대우도추정법(MLE) 간의 MSE 및 분산 기준 성능 비교는 어떻게 되는가?
• RQ3 백분위수추정법, 최소제곱법, 가중최소제곱법, 크라머-빈-마이즈추정법, 앤더슨-더링추정법 등의 대체 추정법은 MLE 및 UMVUE에 비해 어느 정도의 성능을 보이는가?
• RQ4 순서통계량의 충분통계량에 대한 조건부 분포를 이용하여 PDF 및 CDF에 대한 UMVUE의 해석적 표현을 유도할 수 있는가?
• RQ5 MLE는 편향이 존재하지만, PDF 및 CDF에 대해 UMVUE보다 편향과 분산의 균형이 더 우수한가?

주요 결과

• MLE는 편향이 존재하지만, PDF 및 CDF에 대해 UMVUE보다 평균제곱오차(MSE)에서 뛰어난 성능을 보이며, 이는 전반적인 우수성을 시사한다.
• UMVUE는 X₁의 T(합)에 대한 조건부 분포를 기반으로 해석적으로 유도되었으며, 편향 없는 추정 클래스 내에서 최적임을 입증하였다.
• 표본 크기가 증가함에 따라 모든 추정법의 MSE가 감소함을 확인하여, 추정법의 일致성(일致성)을 확인하였다.
• 시뮬레이션 연구 결과, 모든 추정법의 MSE가 표본 크기가 증가함에 따라 감소함을 확인하였으며, 이는 추정법의 점근적 성질을 지지한다.
• 고려된 방법들 중에서 MLE는 PDF 및 CDF 모두에서 가장 낮은 MSE를 기록하여, 편향이 존재함에도 불구하고 유한표본에서 뛰어난 성능을 보임을 시사한다.
• 크라머-빈-마이즈추정법 및 앤더슨-더링추정법은 최소거리 원리를 기반으로 유도되었으며, 특히 앤더슨-더링추정법이 점점 더 점근적 행동에 빠르게 수렴하는 경향을 보였다.