[论文解读] Judicious Judgment Meets Unsettling Updating: Dilation, Sure Loss, and Simpson's Paradox

Ruobin Gong, Xiao‐Li Meng|arXiv (Cornell University)|Dec 24, 2017

Bayesian Modeling and Causal Inference参考文献 32被引用 5

一句话总结

本文研究了在使用非贝叶斯规则更新信念时，模糊概率模型中出现的令人不安现象——扩张、确定损失和收缩。研究表明，这些反直觉行为源于更新规则与模型模糊性之间的冲突，强调了在处理低分辨率不确定性时审慎判断的关键作用。

ABSTRACT

Statistical learning using imprecise probabilities is gaining more attention because it presents an alternative strategy for reducing irreplicable findings by freeing the user from the task of making up unwarranted high-resolution assumptions. However, model updating as a mathematical operation is inherently exact, hence updating imprecise models requires the user's judgment in choosing among competing updating rules. These rules often lead to incompatible inferences, and can exhibit unsettling phenomena like dilation, contraction and sure loss, which cannot occur with the Bayes rule and precise probabilities. We revisit a number of famous "paradoxes", including the three prisoners/Monty Hall problem, revealing that a logical fallacy arises from a set of marginally plausible yet jointly incommensurable assumptions when updating the underlying imprecise model. We establish an equivalence between Simpson's paradox and an implicit adoption of a pair of aggregation rules that induce sure loss. We also explore behavioral discrepancies between the generalized Bayes rule, Dempster's rule and the Geometric rule as alternative posterior updating rules for Choquet capacities of order 2. We show that both the generalized Bayes rule and Geometric rule are incapable of updating without prior information regardless of how strong the information in our data is, and that Dempster's rule and the Geometric rule can mathematically contradict each other with respect to dilation and contraction. Our findings show that unsettling updates reflect a collision between the rules' assumptions and the inexactness allowed by the model itself, highlighting the invaluable role of judicious judgment in handling low-resolution information, and the care we must take when applying learning rules to update imprecise probabilities.

研究动机与目标

• 分析模糊概率模型中如扩张和确定损失等令人不安的更新行为。
• 研究在缺乏精确概率时，判断在选择不同更新规则中的作用。
• 阐明经典悖论（如蒙蒂霍尔问题和三名囚犯）中联合不可通约假设所引发的逻辑不一致。
• 建立辛普森悖论与导致确定损失的聚合规则之间的形式等价性。
• 比较广义贝叶斯规则、德姆普斯特规则和几何规则在更新二阶Choquet容量时的行为差异。

提出的方法

• 在使用上概率和下概率的模糊概率框架内，重新诠释经典悖论（蒙蒂霍尔问题、三名囚犯、疗效评估）。
• 将三种不同的更新规则——广义贝叶斯规则、德姆普斯特规则和几何规则——应用于二阶Choquet容量。
• 使用扩张和确定损失的形式定义，分析更新规则如何影响后验区间。
• 证明即使先验假设在边际上合理，但若联合不一致，扩张和收缩仍可能发生。
• 建立辛普森悖论与在模糊模型中引发确定损失的聚合规则之间的等价性。
• 分析不同规则之间的行为差异，表明德姆普斯特规则和几何规则在扩张/收缩结果上可能相互矛盾。

实验结果

研究问题

• RQ1 为何模糊概率模型会表现出扩张和确定损失等现象，而这些现象在精确贝叶斯更新中并不存在？
• RQ2 在缺乏先验信息的情况下，冲突的更新规则（如广义贝叶斯规则、德姆普斯特规则、几何规则）如何导致不一致的推论？
• RQ3 辛普森悖论与引发确定损失的聚合规则数学结构之间存在何种关系？
• RQ4 在三名囚犯等悖论中，联合合理但不可通约的假设如何在更新后导致逻辑谬误？
• RQ5 即使在不同规则下高分辨率概率存在差异，是否仍能无歧义地推荐低分辨率行动（如‘切换’或‘不切换’）？

主要发现

• 扩张发生在事件的后验区间比先验区间更宽时，即使在条件化新信息后也会发生，且被证明源于模型中不相容的假设。
• 确定损失在形式上与辛普森悖论中使用的聚合规则相关联，其中冲突的证据流在某些更新规则下会导致必然损失。
• 广义贝叶斯规则和几何规则在缺乏先验信息时均无法进行更新，无论数据强度如何，凸显了其应用中的根本局限性。
• 德姆普斯特规则和几何规则在扩张和收缩结果上可能产生矛盾，表明模糊模型中存在规则依赖的不一致性。
• 尽管后验区间存在差异，但在三名囚犯/蒙蒂霍尔问题中，所有三种规则下‘切换’这一行动始终有利，这是由于行动空间的低分辨率特性。
• 本文确立了令人不安的更新并非数据缺陷，而是更新规则假设与模型固有模糊性之间冲突的反映。