[论文解读] Multivariate subjective fiducial inference

Russell J. Bowater|arXiv (Cornell University)|Apr 25, 2018

Statistical Mechanics and Entropy参考文献 34被引用 6

一句话总结

本文将多变量主观置信推断推进为贝叶斯和频率学派推断的一种连贯替代方法，通过解析方法或吉布斯抽样从完整条件分布中推导联合置信分布——即使条件分布不相容，也能实现推断。该方法将关于固定参数的概率陈述视为本质上主观的，但保持了强大的实际性能，尤其在先验知识极少时表现更优。

ABSTRACT

The aim of this paper is to firmly establish subjective fiducial inference as a rival to the more conventional schools of statistical inference, and to show that Fisher's intuition concerning the importance of the fiducial argument was correct. In this regard, methodology outlined in an earlier paper is modified, enhanced and extended to deal with general inferential problems in which various parameters are unknown. As a key part of what is put forward, the joint fiducial distribution of all the parameters of a given model is determined on the basis of the full conditional fiducial distributions of these parameters by using an analytical approach or a Gibbs sampling method, the latter of which does not require these conditional distributions to be compatible. Although the resulting theory is classified as being "subjective", this is essentially due to the argument that all probability statements made about fixed but unknown parameters must be inherently subjective. In particular, it is systematically argued that, in general, there is no need to place a great emphasis on the difference between the fiducial probabilities derived by using this theory of inference and objective probabilities. Some important examples of the application of this theory are presented.

研究动机与目标

• 建立主观置信推断作为主流统计推断学派的可行且连贯的替代方案。
• 将置信理论扩展至具有多个未知参数的多变量模型，克服经典置信方法的局限性。
• 解决当对参数缺乏或几乎没有先验信息时客观贝叶斯推断的不足。
• 证明即使没有主观先验，置信概率也可与客观概率一样可靠和有力。
• 通过提出在序列数据分析中结合置信与贝叶斯推理的实用策略，解决置信推断中的不一致问题。

提出的方法

• 通过完整条件置信分布（解析或吉布斯抽样）推导多个参数的联合置信分布。
• 使用吉布斯抽样在条件置信分布不相容时仍能构建联合置信分布。
• 将置信统计量定义为最大似然估计器的一一对应函数，当不存在充分统计量时，扩大了方法的适用范围。
• 将所有关于固定但未知参数的概率陈述视为本质上主观的，使理论建立在概率的哲学解释基础上。
• 使用数据生成算法模拟置信分布，实现推断，而无需共轭先验或似然对称性。
• 采用概率强度准则评估置信分布的可靠性，指导在结合置信与贝叶斯推断时的决策。

实验结果

研究问题

• RQ1 主观置信推断能否在多变量设置中提供一种连贯且实用的贝叶斯和频率学派推断的替代方案？
• RQ2 当条件置信分布不相容时，如何构建联合置信分布？
• RQ3 在缺乏先验信息的情况下，该方法所导出的置信概率在多大程度上能与客观概率的可靠性相当？
• RQ4 在序列数据分析中，何时应将置信分布与贝叶斯更新结合，何时应以合并数据的置信分布替代？
• RQ5 置信推断能否超越充分统计量？其对一致性和计算可行性有何影响？

主要发现

• 在缺乏或几乎没有先验知识的情境下，主观置信推断表现强劲，其连贯性和可解释性优于客观贝叶斯推断。
• 即使条件置信分布不相容，该方法仍能通过吉布斯抽样克服限制，构建联合置信分布。
• 置信统计量无需为充分统计量；它们可以是最大似然估计器的一一对应函数，显著扩大了适用模型的范围。
• 当基于样本大小和精度判断置信分布为‘非常强’时，可将其用作新数据贝叶斯分析的先验，为实现一致性提供实用路径。
• 当合并数据的置信分布与序列置信-贝叶斯更新的后验发生冲突时，若第一组样本较小，通常更倾向于采用合并数据的置信分布。
• 主观置信推断的计算负担高于贝叶斯推断，但计算统计学的最新进展表明，这一差距将随时间缩小。