Skip to main content
QUICK REVIEW

[论文解读] Two New Estimators of Entropy for Testing Normality

Akram Kohansal, Saeid Rezakhah|arXiv (Cornell University)|May 1, 2014
Statistical Distribution Estimation and Applications参考文献 23被引用 3
一句话总结

本文通过使用排序抽样(RSS)对Van Es和Wieczorkowski & Grzegorewski的估计器进行改进,提出了两种新的熵估计器——HVE^R_mn和HW^R_mn,显著降低了偏差和均方根误差(RMSE)。所提出的估计器可构建两种检验效能极高的正态性检验,其中HW^R_mn表现尤为出色,尤其在小样本量(n=15)时,其性能甚至优于现有方法在n=45时的表现。

ABSTRACT

We present two new estimators for estimating the entropy of absolutely continuous random variables. Some properties of them are considered, specifically consistency of the first is proved. The introduced estimators are compared with the existing entropy estimators. Also, we propose two new tests for normality based on the introduced entropy estimators and compare their powers with the powers of other tests for normality. The results show that the proposed estimators and test statistics perform very well in estimating entropy and testing normality. A real example is presented and analyzed.

研究动机与目标

  • 开发适用于连续分布的熵估计器,以降低偏差和RMSE。
  • 通过利用排序抽样(RSS)和改进的估计器,提升现有基于熵的正态性检验性能。
  • 使用蒙特卡洛模拟,评估新检验统计量相对于现有正态性检验的性能表现。
  • 提供一种实用且经验验证的熵基拟合优度检验效能估计方法。

提出的方法

  • 通过引入排序抽样(RSS)改进Van Es的熵估计器(HVE_mn),以提升估计精度。
  • 利用RSS和通过digamma函数进行偏差校正,改进Wieczorkowski & Grzegorewski的估计器(HW_mn)。
  • 基于改进的估计器,提出两种新的检验统计量TVE^R_mn和TW^R_mn,用于正态性检验。
  • 使用蒙特卡洛模拟,将新检验的效能与现有检验(如Kolmogorov-Smirnov、Anderson-Darling、Shapiro-Wilk)进行比较。
  • 通过模拟在估计参数下的逆高斯分布样本,应用经验效能估计程序。
  • 使用实际数据集(主动维修时间)验证结果,拟合逆高斯分布,并评估p值与检验效能。

实验结果

研究问题

  • RQ1排序抽样能否降低现有连续分布熵估计器的偏差和RMSE?
  • RQ2在偏差和RMSE方面,新估计器HVE^R_mn和HW^R_mn相较于Vasicek、Van Es、Correa等方法表现如何?
  • RQ3新检验统计量TVE^R_mn和TW^R_mn是否在小样本量下展现出高于现有正态性检验的统计效能?
  • RQ4所提出的经验证据效能估计程序是否对比较基于熵的检验统计量有效且可靠?
  • RQ5新估计器和检验方法能否在真实世界数据(如主动维修时间)中有效应用,产生有意义的p值和检验效能?

主要发现

  • 所提出的估计器HW^R_mn在各种分布下,始终表现出所有比较的熵估计器中最低的偏差和RMSE。
  • 在n=15时,检验统计量TW^R_mn的效能达到0.866,显著优于使用n=45的竞争对手:TV_mn为0.5368,TVE_mn为0.1965,TC_mn为0.4015。
  • 在主动维修时间数据集上,TW^R_mn的p值为0.0028,表明对正态性的强烈反对证据,且与逆高斯分布拟合良好。
  • 经验效能估计程序成功量化并比较了检验性能,证实了新检验统计量的优越性。
  • 新估计器和检验方法具有稳健性和有效性,其中HW^R_mn在模拟研究中表现最佳。
  • 结果证实,排序抽样显著提升了熵估计和正态性检验的效率,尤其在小样本设置下。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。