[论文解读] A mathematical characterization of confidence as valid belief

Ryan Martin|arXiv (Cornell University)|Jul 3, 2017

Bayesian Modeling and Causal Inference参考文献 34被引用 6

一句话总结

本文在推断模型（IM）框架下，对置信区间提出了数学表征，将其视为有效的信念/似然函数，表明每个名义上的置信区域都对应于一个有效IM的似然区域。关键贡献在于证明了一个完整类定理：对于任何满足标准覆盖性和兼容性条件的置信区域，均存在一个IM，其似然区域包含于该置信区域之内，从而为置信的频率解释提供了一种严格且直观的替代方案。

ABSTRACT

Confidence is a fundamental concept in statistics, but there is a tendency to misinterpret it as probability. In this paper, I argue that an intuitively and mathematically more appropriate interpretation of confidence is through belief/plausibility functions, in particular, those that satisfy a certain validity property. Given their close connection with confidence, it is natural to ask how a valid belief/plausibility function can be constructed directly. The inferential model (IM) framework provides such a construction, and here I prove a complete-class theorem stating that, for every nominal confidence region, there exists a valid IM whose plausibility regions are contained by the given confidence region. This characterization has implications for statistics understanding and communication, and highlights the importance of belief functions and the IM framework.

研究动机与目标

• 为解决置信区间解释中长期存在的模糊性，提供一种数学上严格且在直觉上连贯的替代方案，以取代概率解释。
• 证明信念函数与似然函数——特别是有效IM——是比概率分布更合适的数学框架，用于表示置信。
• 通过推断模型框架，建立置信区域与似然区域之间的正式联系。
• 证明每个有效置信区域均可表示为一个有效IM的似然区域，从而为将‘似然区间’作为置信区间的自然解释提供理论依据。
• 通过用基于信念的、数学上严谨的框架取代对置信的误导性概率解释，加强统计交流与理解。

提出的方法

• 本文采用推断模型（IM）框架，通过构造随机集及信念/似然函数来表示对参数的不确定性。
• 定义有效IM为：其似然区域对所有参数值均满足名义覆盖概率条件（1）。
• 核心构造方法是通过基于模型的关联，将数据与随机集关联起来，例如使用 $X = F^{-1}(U)$ 表示分布函数。
• 利用Dvoretzky–Kiefer–Wolfowitz（DKW）不等式定义经验分布函数的置信带，确保对所有真实分布均具有统一覆盖性。
• 参数值 $F$ 的似然轮廓计算为 $\mathsf{pl}_{x}(\{F\}) = 1 - \mathsf{P}_{U}\{S_{\alpha(x,F)}\}$，通过蒙特卡洛模拟进行评估。
• 证明了一个完整类定理：对于任何满足覆盖条件和弱兼容性条件的置信区域 $C_\alpha$，均存在一个有效IM，其似然区域包含于 $C_\alpha$ 之内。

实验结果

研究问题

• RQ1 能否使用信念/似然函数而非概率分布，对置信区间进行数学上的严格表征？
• RQ2 信念函数需满足哪些数学性质，才能对应于一个有效置信区域？
• RQ3 是否每个置信区域都可表示为一个有效推断模型的似然区域？
• RQ4 推断模型框架与传统方法（如费希尔似然或贝叶斯推断）相比，在表示置信方面有何差异？
• RQ5 能否构造出似然区域，使其在保持覆盖性的同时，均匀地比标准置信区域更高效（即更小）？

主要发现

• 每个满足覆盖条件（1）和弱兼容性条件的名义置信区域，均对应于一个有效推断模型的似然区域。
• IM框架导出的似然区域始终包含于对应的置信区域之内，意味着其可能更高效。
• 在 $n=799$ 个观测值的经验分布函数中，IM方法得到的给定分布 $F$ 的似然区域严格小于由DKW不等式导出的95%置信带。
• 在神经数据示例中，似然轮廓 $\mathsf{pl}_{x}(\{F\}) \approx 0$ 对应于95%置信下界带上的某一点，表明该点被排除在95%似然区域之外，证实IM区域更窄。
• 完整类定理表明，IM框架不仅有效，而且最优：其可在保持相同或更好覆盖性的同时，实现更小的区域。
• 结果支持将‘似然区间’作为置信区间的自然、直观且数学严谨的解释，取代误导性的概率语言。