[论文解读] Some estimators of the PDF and CDF of the Lindley Distribution

Sudhansu S. Maiti, Indrani Mukherjee|arXiv (Cornell University)|Apr 21, 2016

Statistical Distribution Estimation and Applications参考文献 34被引用 3

一句话总结

本文提出了並比較了多種估計器——最大似然法（MLE）、統一最小方差無偏估計量（UMVUE）、分位數估計量（PCE）、最小二乘法（LSE）、加權最小二乘法（WLSE）、Cramér-von-Mises估計量（CVME）和Anderson-Darling估計量（ADE）——用於威爾遜分布（Lindley distribution）的機率密度函數（PDF）與累積分布函數（CDF）。透過蒙地卡羅模擬，研究發現儘管UMVUE在無偏估計類中因具有最小變異數而為最佳，但MLE在均方誤差（MSE）方面表現更佳，因此整體而言更為優越，即使存在偏誤。

ABSTRACT

This article addresses the different methods of estimation of the probability density function (PDF) and the cumulative distribution function (CDF) for the Lindley distribution. Following estimation methods are considered: uniformly minimum variance unbiased estimator (UMVUE), maximum likelihood estimator (MLE), percentile estimator (PCE), least square estimator (LSE), weighted least square estimator (WLSE), Cramér-von-Mises estimator (CVME), Anderson-Darling estimator (ADE). Monte Carlo simulations are performed to compare the performances of the proposed methods of estimation.

研究动机与目标

• 發展並比較威爾遜分布PDF與CDF的多種估計器，將焦點從參數估計轉向函數估計。
• 評估不同估計方法（MLE、UMVUE、PCE、LSE、WLSE、CVME、ADE）在PDF與CDF上的表現。
• 透過蒙地卡羅模擬評估這些估計器在小樣本下的表現，特別是在均方誤差（MSE）方面的表現。
• 基於充分統計量與條件分配，推導PDF與CDF的UMVUE之解析表達式。
• 證明MLE雖有偏誤，但其在MSE上的表現優於UMVUE，從而支持其在實務上的優先選擇。

提出的方法

• 利用不變性原則推導參數θ的最大似然估計量（MLE），再透過代入威爾遜分配公式，用以估計PDF與CDF。
• 利用X₁在完整充分統計量T = ΣXᵢ給定下的條件分配，結合巴斯卡定理（Basu’s theorem）與萊曼-施韋策定理（Lehmann-Scheffé theorem），構建PDF與CDF的UMVUE。
• 透過最小化經驗值與理論值之間平方差之總和，推導最小二乘法（LSE）與加權最小二乘法（WLSE）下的PDF與CDF估計器。
• 透過反轉CDF並最小化觀察值與理論分位數之間加權平方差之總和，提出分位數估計器（PCE）。
• 透過最小化經驗分布函數與理論分布函數之間的距離函數，推導Cramér-von-Mises（CVME）與Anderson-Darling（ADE）估計器。
• 使用1,000次重複的蒙地卡羅模擬，計算並比較所有估計器在不同樣本大小下的均方誤差（MSEs）。

实验结果

研究问题

• RQ1 在小樣本下，哪種估計器能為威爾遜分布的PDF與CDF提供最低的均方誤差（MSE）？
• RQ2 在MSE與變異數方面，統一最小方差無偏估計量（UMVUE）與最大似然估計量（MLE）的表現如何比較？
• RQ3 其他估計器——分位數法、最小二乘法、加權最小二乘法、Cramér-von-Mises法與Anderson-Darling法——相較於MLE與UMVUE的表現如何？
• RQ4 能否利用順序統計量在充分統計量給定下的條件分配，推導出PDF與CDF的UMVUE之解析表達式？
• RQ5 MLE雖有偏誤，但其在偏誤與變異數之間的權衡是否優於無偏的UMVUE，適用於PDF與CDF的估計？

主要发现

• MLE在PDF與CDF上的估計表現優於UMVUE，即使MLE存在偏誤，其均方誤差（MSE）更低。
• PDF與CDF的UMVUE透過X₁在總和T給定下的條件分配推導出解析表達式，且在無偏估計類中為最佳。
• 隨著樣本大小增加，所有估計器的MSE均下降，證實其一致性。
• 模擬研究顯示，所有估計器的MSE隨樣本大小增加而降低，支持估計器的漸近性質。
• 在所考慮的方法中，MLE對PDF與CDF均提供最小的MSE，顯示其在小樣本下表現更優，即使存在偏誤。
• Cramér-von-Mises與Anderson-Darling估計器基於最小距離原則推導，其中後者展現更快的漸近收斂速度。