[论文解读] Updating with incomplete observations

Gert de Cooman, Marco Zaffalon|Ghent University Academic Bibliography (Ghent University)|Aug 7, 2014

Bayesian Modeling and Causal Inference参考文献 12被引用 5

一句话总结

本文提出了一种基于似然概率的保守更新规则，用于在不完整（集合值）观测下的概率推理。通过使用空缺下前验（vacuous lower prevision）对不完整性机制的无知进行建模，并强制满足一致性，该方法得出较低的后验概率和部分确定的决策，成功解决了蒙蒂霍尔悖论等难题，并实现了贝叶斯网络中的精确线性时间分类。

ABSTRACT

Currently, there is renewed interest in the problem, raised by Shafer in 1985, of updating probabilities when observations are incomplete (or set-valued). This is a fundamental problem, and of particular interest for Bayesian networks. Recently, Grunwald and Halpern have shown that commonly used updating strategies fail here, except under very special assumptions. We propose a new rule for updating probabilities with incomplete observations. Our approach is deliberately conservative: we make no or weak assumptions about the so-called incompleteness mechanism that produces incomplete observations. We model our ignorance about this mechanism by a vacuous lower prevision, a tool from the theory of imprecise probabilities, and we derive a new updating rule using coherence arguments. In general, our rule produces lower posterior probabilities, as well as partially determinate decisions. This is a logical consequence of the ignorance about the incompleteness mechanism. We show how the new rule can properly address the apparent paradox in the 'Monty Hall' puzzle. In addition, we apply it to the classification of new evidence in Bayesian networks constructed using expert knowledge. We provide an exact algorithm for this task with linear-time complexity, also for multiply connected nets.

研究动机与目标

• 解决1985年沙弗（Shafer）所强调的根本性挑战：在观测不完整或为集合值时如何更新概率。
• 克服标准更新策略在不完整观测下失效的问题，特别是当关于不完整性机制的假设不成立时。
• 开发一种不依赖于对不完整性机制强假设的保守、基于一致性的更新规则。
• 为具有专家构建结构的贝叶斯网络中，提供一种实用且高效的对新证据进行分类的方法。
• 在不完整观测设置下，解决诸如蒙蒂霍尔问题等明显悖论。

提出的方法

• 使用空缺下前验（vacuous lower prevision）对不完整性机制的无知进行建模，这是不精确概率理论中的基础工具。
• 通过一致性论证推导出新的更新规则，确保在不确定性下的概率修正具有逻辑一致性。
• 应用该规则计算反映由于信息不完整而导致的认知无关性的下后验概率。
• 设计一种精确算法，用于贝叶斯网络中的证据分类，具有线性时间复杂度，即使在多重连接网络中也适用。
• 通过在网络结构中传播下限和上限概率，利用该规则处理集合值观测。
• 当由于数据不完整而无法确定完整后验概率时，确保决策保持部分确定。

实验结果

研究问题

• RQ1 在缺乏对底层不完整性机制的了解时，如何可靠地更新概率，当观测为不完整或集合值时？
• RQ2 标准贝叶斯更新规则为何在不完整观测下会失效，其在何种条件下仍能成立？
• RQ3 能否开发一种一致且保守的更新规则，以反映对观测过程的真正无知？
• RQ4 该规则如何在贝叶斯网络中高效实现，特别是针对结构复杂或多重连接的网络？
• RQ5 所提出的规则是否能在不完整观测条件下解决蒙蒂霍尔问题等著名悖论？

主要发现

• 所提出的更新规则产生较低的后验概率和部分确定的决策，反映了由于对不完整性机制无知而产生的真正认知不确定性。
• 该规则通过正确考虑观测过程中不完整信息，成功解决了蒙蒂霍尔问题中的表观悖论。
• 开发出一种用于贝叶斯网络中证据分类的精确算法，具有线性时间复杂度，即使在多重连接网络中也适用。
• 该方法避免了对不完整性机制的强假设，使其在真实场景中机制未知时更具鲁棒性。
• 基于一致性的推导确保了在所有可能的不完整数据解释下，更新后的概率均保持逻辑一致性。
• 当数据本质上为集合值或部分观测时，该方法为标准贝叶斯更新提供了一种有原则的替代方案。