[论文解读] Estimating Bernoulli trial probability from a small sample

Norman D. Megill, Mladen Pavičić|arXiv (Cornell University)|May 8, 2011

Advanced Statistical Methods and Models参考文献 1被引用 7

一句话总结

本文提出了一种精确的贝叶斯方法，用于从小样本中估计伯努利试验的成功概率，取代了在样本量较小时或比例接近0或1时会失效的标准教科书方法。该方法推导出后验均值为 (m+1)/(n+2)，并利用不完全正则化不完全β函数的反函数计算精确置信区间，即使在零次成功或样本极小时也能提供准确结果。

ABSTRACT

The standard textbook method for estimating the probability of a biased coin from finite tosses implicitly assumes the sample sizes are large and gives incorrect results for small samples. We describe the exact solution, which is correct for any sample size.

研究动机与目标

• 解决标准教科书方法在样本量较小或比例极端（如零次成功）时估计伯努利试验概率时的失效问题。
• 基于成功概率 p 上的均匀先验，提供一种严谨且精确的贝叶斯推断解法。
• 证明标准方法中使用的正态近似和自助法在小样本情况下在数学上存在问题且不准确。
• 表明与标准方法给出的零宽度区间不同，该精确方法即使在观测比例为0或1时也能生成有意义的置信区间。
• 倡导在小样本常见的科学与医学研究中采用该精确方法，以避免因错误估计导致的错误决策。

提出的方法

• 在 p ∈ [0,1] 上使用均匀先验以表示对先验知识的缺乏，从而导出β后验分布。
• 推导出后验概率密度函数为 e(x) = x^m(1−x)^{n−m} / B(m+1,n−m+1)，其中 B 为β函数。
• 将精确后验均值计算为 (m+1)/(n+2)，纠正了标准估计 m/n。
• 通过求解 I_x₁(m+1,n−m+1) = (1−c)/2 和 I_x₂(m+1,n−m+1) = (1+c)/2，利用反向正则化不完全β函数确定 100c% 置信区间。
• 通过离散 p 值的极限情况验证该方法，并取 k→∞ 的连续极限以推导出精确解。
• 利用计算工具评估反向正则化不完全β函数，以实现实际应用。

实验结果

研究问题

• RQ1 当样本量较小且成功次数为零时，伯努利成功概率的正确贝叶斯估计是什么？
• RQ2 如何构建一种置信区间，使其在观测比例为0或1时依然有效？
• RQ3 为何标准教科书方法在小样本伯努利估计中会失效，具体引入了哪些错误？
• RQ4 在不同样本量和成功频率下，精确贝叶斯方法与标准方法在准确性和可靠性方面有何差异？
• RQ5 为何在小样本估计中应使用后验均值 (m+1)/(n+2) 而非 m/n？其理论依据是什么？

主要发现

• 对于5次抛掷中出现0次正面的情况，精确方法得到的后验均值为 1/7 ≈ 0.143，80% 置信区间约为 0.017 至 0.319，而标准方法则给出错误的零均值和零区间。
• 精确后验均值为 (m+1)/(n+2)，这是对标准估计 m/n 的一个简单、封闭形式的修正，且随着 n 增大而趋近于标准估计。
• 在 m=917 且 n=1600 的投票示例中，精确的 95% 置信区间为 [0.549, 0.597]，与标准方法的 [0.548, 0.598] 密切一致，表明在大样本下两者结果一致。
• 该方法避免了对渐近正态近似和自助法的使用，这些方法在小样本情况下在数学上缺乏依据，可能产生误导性结果。
• 该方法可普遍应用于任何小样本伯努利过程，包括在大群体中对罕见事件的估计，而标准方法在这些情况下会彻底失效。
• 本文结论认为，该精确方法不仅更准确，而且在逻辑上更严谨，应优先于标准教科书方法。