[論文レビュー] Estimating Bernoulli trial probability from a small sample

Norman D. Megill, Mladen Pavičić|arXiv (Cornell University)|May 8, 2011

Advanced Statistical Methods and Models参考文献 1被引用数 7

ひとこと要約

この論文は、標本サイズが小さい場合や確率が0または1に近い場合に失敗する標準的な教科書的手法に代わる、正確なベイズ推定法を提示している。後方平均を (m+1)/(n+2) として導出し、逆正則化不完全ベータ関数を用いて正確な信頼区間を計算することで、成功がゼロのケースや極めて小さな標本に対しても正確な結果を提供する。

ABSTRACT

The standard textbook method for estimating the probability of a biased coin from finite tosses implicitly assumes the sample sizes are large and gives incorrect results for small samples. We describe the exact solution, which is correct for any sample size.

研究の動機と目的

• 標本サイズが小さいか、確率が極端（例：成功がゼロ）な場合に標準的教科書手法が失敗することへの対処。
• 成功確率 p に一様事前分布を用いたベイズ推論に基づく厳密で正確な解法の提供。
• 小標本において正規近似やブートストラップを用いる標準的手法が数学的に疑わしく、不正確であることを示すこと。
• 観測された割合が0または1であっても、正確な方法が意味のある信頼区間を提供できるのに対し、標準的手法は幅ゼロの区間を与えることの対比を示すこと。
• 小標本が一般的な科学的・医学的研究分野において、誤った推定が誤った意思決定を招く可能性があるため、正確な手法の採用を提唱すること。

提案手法

• 成功確率 p ∈ [0,1] に一様事前分布を用いることで、事前の知識が欠如している状況を表現し、ベータ後方分布が得られる。
• 後方確率密度関数を e(x) = x^m(1−x)^{n−m} / B(m+1,n−m+1) として導出し、ここで B はベータ関数を表す。
• 正確な後方平均を (m+1)/(n+2) として計算し、標準推定値 m/n に対する修正を行う。
• 100c% 信頼区間は、逆正則化不完全ベータ関数を用いて I_x₁(m+1,n−m+1) = (1−c)/2 および I_x₂(m+1,n−m+1) = (1+c)/2 を解くことで得られる。
• 離散的な p 値の極限ケースを検証し、k→∞ の連続極限をとることで正確な解を導出する。
• 実用的実装のため、逆正則化不完全ベータ関数の評価に計算ツールを用いる。

実験結果

リサーチクエスチョン

• RQ1 標本サイズが小さく、成功回数がゼロの場合に、ベルヌーイ成功確率の正しいベイズ推定値は何か？
• RQ2 観測された割合が0または1であっても有効な信頼区間を構築する方法は何か？
• RQ3 標準的教科書手法が小標本ベルヌーイ推定でなぜ失敗するのか、具体的にどのような誤りを生じるのか？
• RQ4 さまざまな標本サイズや成功頻度において、正確なベイズ手法と標準的手法の正確性および信頼性の違いは何か？
• RQ5 小標本推定において m/n ではなく (m+1)/(n+2) の後方平均を用いる理論的根拠は何か？

主な発見

• 表が出ない5回のコイン投げの標本では、正確な手法により後方平均は 1/7 ≈ 0.143、80%信頼区間は約 0.017 から 0.319 となり、標準的手法の誤ったゼロ平均と幅ゼロ区間とは対照的である。
• 正確な後方平均は (m+1)/(n+2) であり、これは標準推定値 m/n に対する簡単で閉形式の補正であり、n が大きくなるにつれて標準推定値に近づく。
• m=917、n=1600 の投票の例では、正確な95%信頼区間は [0.549, 0.597] であり、標準的手法の [0.548, 0.598] と非常に近い結果を示し、大標本では両者の一致が確認できる。
• 正確な手法は漸近的正規近似やブートストラップを回避しており、これらは小標本では数学的に正当性がなく、誤った結果を生じる可能性がある。
• この手法は、標準的手法が崩壊的に失敗するような、大人口における希少事象の推定を含め、あらゆる小標本ベルヌーイ過程に普遍的に適用可能である。
• 論文は、正確な手法が正確性を越えて論理的にもより整合性があり、標準的教科書的手法に優ると結論づけている。