[论文解读] Frequentist vs Bayesian statistics - a non-statisticians view

Maarten H. P. Ambaum|arXiv (Cornell University)|Aug 10, 2012

Statistics Education and Methodologies被引用 4

一句话总结

本文主张贝叶斯统计比频率派统计更适合于现实世界中的科学推断，后者依赖于长期频率和理想化假设。通过抛硬币的例子，本文表明频率派方法无法区分实验偏差与真正公平性，而贝叶斯方法则通过结合先验知识来评估给定观测数据下假设的合理性，因此在不确定性下的科学推理中更为合适。

ABSTRACT

People who by training end up dealing with probabilities ("statisticians") roughly fall into one of two camps. One is either a frequentist or a Bayesian. To a scientist, who needs to use probabilities to make sense of the real world, this division seems sometimes baffling. I will argue that science mostly deals with Bayesian questions. Yet the dominance of frequentist ideas in statistics points many scientists in the wrong statistical direction.

研究动机与目标

• 挑战频繁派统计在科学研究中的主导地位，尽管其在实际推断中存在局限性。
• 证明关于假设的科学问题（如硬币是否公平）本质上具有贝叶斯性质，需要先验信念和对假设合理性的更新评估。
• 表明频繁派显著性检验在现实世界实验中常导致误解和错误结论。
• 倡导贝叶斯推理作为不确定性下科学推断的更合适框架。
• 强调p值和零假设显著性检验在气候科学、心理学和物理学等领域的局限性。

提出的方法

• 以抛硬币实验作为案例研究，对比频率派与贝叶斯对概率的解释。
• 应用贝叶斯定理计算在观测到13次正面、7次反面的情况下，硬币是公平的后验概率。
• 在假设硬币公平的前提下，计算观测结果的p值以评估其极端性。
• 比较在两种假设下观测数据的似然性：公平硬币（p=0.5）与有偏硬币（p=0.65）。
• 使用先验分布来表示对硬币公平性的初始信念，然后根据观测数据进行更新。
• 说明相同的数据在是否纳入先验知识的情况下可能导致不同的结论。

实验结果

研究问题

• RQ1 为何频繁派方法常常无法回答关于假设合理性的真正科学问题？
• RQ2 在贝叶斯分析中纳入先验知识如何相较于频繁派显著性检验提升推断能力？
• RQ3 同一实验结果是否可能因分析方法为频繁派或贝叶斯而被不同地解释？
• RQ4 为何长期频率的概率解释对于现实世界科学实验而言是不充分的？
• RQ5 p值和显著性检验在气候科学和心理学等学科中在多大程度上误导科学家？

主要发现

• 在公平硬币假设下，观察到13次正面和7次反面的概率约为7.4%，尚不足以单独拒绝原假设。
• 在有偏硬币（p=0.65）假设下，相同结果的概率约为18.4%，高于公平硬币假设下的两倍以上。
• 尽管数据在有偏模型下更可能，科学家通常仍认为硬币是公平的，这是由于对公平性的强烈先验信念。
• 频繁派方法无法区分仅因随机波动而公平的硬币与存在偏差的实验设置，凸显其设计的根本缺陷。
• 贝叶斯分析成功地将先验知识（例如，硬币通常为公平的）纳入分析，从而对假设的合理性提供更现实的评估。
• 本文结论认为，贝叶斯统计更符合科学的实际需求，因为在知识不完全和不确定性存在的条件下评估假设。