[论文解读] Frequentist and Bayesian Confidence Limits

G. Zech|arXiv (Cornell University)|Jun 5, 2001

Gaussian Processes and Bayesian Inference被引用 3

一句话总结

本文比較了頻頻派與貝葉斯方法在構建置信區間時的表現，反對傳統方法，因其違反了似然原理，且存在一致性與精確性問題。本文提出僅基於似然函數的誤差區間，與高能物理學中的標準實務一致，並拒絕傳統方法與採用任意先驗分佈的極端貝葉斯方法。

ABSTRACT

Frequentist (classical) and the Bayesian approaches to the construction of confidence limits are compared. Various examples which illustrate specific problems are presented. The Likelihood Principle and the Stopping Rule Paradox are discussed. The performance of the different methods is investigated relative to the properties coherence, precision, bias, universality, simplicity. A proposal on how to define error limits in various cases are derived from the comparison. They are based on the likelihood function only and follow in most cases the general practice in high energy physics. Classical methods are not recommended because they violate the Likelihood Principle, they can produce physically inconsistent results, suffer from lack of precision and generality. Also the extreme Bayesian approach with arbitrary choice of the prior probability density or priors deduced from scaling laws is rejected.

研究动机与目标

• 評估頻頻派與貝葉斯方法在構建置信區間時的表現。
• 識別傳統方法的缺陷，例如違反似然原理，以及產生物理上不一致結果的問題。
• 評估貝葉斯方法中先驗分佈選擇的影響，特別是任意或基於比例律推導的先驗分佈。
• 提出一種統一且有原則的方法，僅基於似然函數定義誤差區間。
• 提升科學測量中統計推斷的一致性、精確性與普遍性。

提出的方法

• 本文使用說明性範例比較頻頻派與貝葉斯方法，突顯其方法論上的缺陷。
• 將似然原理作為評估方法一致性的標準，並拒絕違反該原則的方法。
• 探討停止規則悖論，以展示頻頻派推斷中的不一致性。
• 根據關鍵統計性質（一致性、精確性、偏倚、普遍性與簡潔性）評估各方法。
• 推導出僅基於似然函數定義誤差區間的建議，避免依賴主觀或任意的先驗分佈。
• 該方法與高能物理學中的標準實務一致，其中基於似然的區間被廣泛使用。

实验结果

研究问题

• RQ1 在標準統計標準下，頻頻派與貝葉斯方法在構建置信區間時有何比較？
• RQ2 傳統方法在哪些方面違反了似然原理，並產生物理上不一致的結果？
• RQ3 為何採用任意或基於比例律推導的先驗分佈的極端貝葉斯方法不適合用於可靠推斷？
• RQ4 能否發展出一種統一的方法來定義誤差區間，以確保一致性、精確性與普遍性？
• RQ5 基於似然的區間在多大程度上與高能物理學中的既定實務相符？

主要发现

• 傳統方法因違反似然原理，且易產生物理上不一致的結果，而被拒絕。
• 頻頻派方法常缺乏精確性與普遍性，削弱了其在科學推斷中的可靠性。
• 採用任意或基於比例律推導的先驗分佈的極端貝葉斯方法因缺乏客觀性與潛在偏倚而被拒絕。
• 所提出的僅基於似然函數的方法確保了一致性，並與高能物理學中的標準實務一致。
• 基於似然的方法在精確性、普遍性與簡潔性方面均優於傳統方法與極端貝葉斯方法。
• 本文結論認為，誤差區間應僅基於似然函數定義，避免依賴主觀或任意的先驗分佈。