[论文解读] Conditional probabilities and van Lambalgen theorem revisited

Bruno Bauwens, Alexander Shen+1 more|arXiv (Cornell University)|Jul 14, 2016

Computability, Logic, AI Algorithms参考文献 10被引用 7

一句话总结

本文研究了连续概率空间中条件概率的算法定义，重点关注马丁-洛夫随机序列的条件分布的存在性与可计算性。研究结果表明，对于可计算测度，随机序列前缀上条件概率的极限收敛于一个定义良好的测度，将范·兰巴尔琴定理推广至算法随机性背景，适用于不可计算条件与统一随机性检验。

ABSTRACT

The definition of conditional probability in case of continuous distributions was an important step in the development of mathematical theory of probabilities. How can we define this notion in algorithmic probability theory? In this survey we discuss the developments in this direction trying to explain what are the difficulties and what can be done to avoid them. Almost all the results discussed in this paper have been published (and we provide the references), but we tried to put them into perspective and to explain the proofs in a more intuitive way. We assume that the reader is familiar with basic notions of measure theory and algorithmic randomness.

研究动机与目标

• 在连续分布中形式化算法概率论中条件概率的定义。
• 分析当条件变量为马丁-洛夫随机时，条件分布的存在性与可计算性。
• 将范·兰巴尔琴定理推广至涉及不可计算测度与统一随机性检验的场景。
• 研究条件概率存在但不可计算的情形，即使联合分布是可计算的。
• 在算法随机性背景下，为已知结果提供直观解释与证明，强调技术挑战与解决方案。

提出的方法

• 通过随机序列前缀上条件概率的极限，定义第二分量上的条件测度。
• 应用有效赌徒收敛定理，证明马丁-洛夫随机序列的条件概率比收敛。
• 为联合测度构造一个下半可计算的检验函数，并通过修剪与归一化将其与边缘与条件检验关联。
• 引入一种依赖于序列与参数的广义统一随机性检验，使参数化测度的扩展成为可能。
• 使用Radon–Nikodym导数与Lebesgue微分定理作为经典类比，以支持算法极限定义的合理性。
• 对检验函数实施修剪操作，以处理非下半可计算的分母，确保积分有界且检验性质保持不变。

实验结果

研究问题

• RQ1 在算法概率论中，随机序列前缀上条件概率的极限在何种条件下存在？
• RQ2 即使联合测度是可计算的，条件分布是否仍可能不可计算？
• RQ3 在算法随机性中，范·兰巴尔琴定理如何推广至不可计算或参数化测度？
• RQ4 马丁-洛夫随机性在确保条件概率极限收敛中起什么作用？
• RQ5 能否为依赖于参数的测度定义统一随机性检验，它们与联合与条件随机性有何关联？

主要发现

• 对于任意两个康托空间乘积上的可计算测度，马丁-洛夫随机序列在第一分量上的条件概率极限存在，并在第二分量上定义了一个行为良好的测度。
• 存在可计算的联合测度，其条件分布不可计算，即使条件序列是马丁-洛夫随机的。
• 条件概率的极限几乎处处对应于经典条件测度，这由Lebesgue微分定理所支持。
• 广义的范·兰巴尔琴定理适用于统一随机性检验，其中联合随机性缺陷可分解为边缘与条件分量，误差项为O(1)。
• 为条件测度构造有界检验函数需通过修剪处理非下半可计算的比值，以确保检验的有效性。
• 若联合测度连续，则条件测度关于条件序列连续，但此性质在一般情况下不成立。