[论文解读] Constraints on physical reality arising from a formalization of knowledge

David H. Wolpert|arXiv (Cornell University)|Nov 9, 2017

Computability, Logic, AI Algorithms参考文献 18被引用 3

一句话总结

本文通过“推理装置”（IDs）的形式化知识获取，表明在物理现实中，不同ID之间联合知识的约束施加了根本性限制，且这些限制独立于具体的物理定律。该研究将ID框架扩展至克服认识逻辑中的逻辑全知问题，实现对具有误差边界和概率推理能力的物理知识的现实建模。

ABSTRACT

There are (at least) four ways that an agent can acquire information concerning the state of the universe: via observation, control, prediction, or via retrodiction, i.e., memory. Each of these four ways of acquiring information seems to rely on a different kind of physical device (resp., an observation device, a control device, etc.). However it turns out that certain mathematical structure is common to those four types of device. Any device that possesses a certain subset of that structure is known as an "inference device" (ID). Here I review some of the properties of IDs, including their relation with Turing machines, and (more loosely) quantum mechanics. I also review the bounds of the joint abilities of any set of IDs to know facts about the physical universe that contains them. These bounds constrain the possible properties of any universe that contains agents who can acquire information concerning that universe. I then extend this previous work on IDs, by adding to the definition of IDs some of the other mathematical structure that is common to the four ways of acquiring information about the universe but is not captured in the (minimal) definition of IDs. I discuss these extensions of IDs in the context of epistemic logic (especially possible worlds formalisms like Kripke structures and Aumann structures). In particular, I show that these extensions of IDs are not subject to the problem of logical omniscience that plagues many previously studied forms of epistemic logic.

研究动机与目标

• 形式化嵌入物理宇宙中的代理通过观察、控制、预测和记忆获取知识的方式。
• 识别在任何物理宇宙中，多个推理装置（IDs）联合知识的普遍约束，无论其基本物理定律如何。
• 通过整合四种知识获取模式的结构，扩展ID框架，以解决认识逻辑中的逻辑全知问题。
• 发展一种支持概率推理、误差分析和可能状态间距离度量的物理知识形式化方法。
• 探索推理复杂性与算法信息论之间的联系，包括类似于海森堡不确定性原理的类比。

提出的方法

• 将推理装置（ID）定义为具有观察、控制、预测和记忆装置共同数学结构的物理系统。
• 使用Kripke和Aumann结构建模知识与信念，将ID嵌入认识逻辑框架中。
• 引入一种强化的ID模型，整合四种知识获取模式的特征，通过将知识限制在可计算、可错的推理中，避免逻辑全知。
• 对宇宙状态应用概率分布以建模不确定性，并推导误差乘积的界限，类比于量子不确定性原理。
• 引入距离函数 D(Γ(W), γ) 量化命题误差，支持对期望误差、方差和误差传播的分析。
• 将形式化方法扩展至数学系统中的物理知识，将ID建模为真字符串宇宙中的定理证明者。

实验结果

研究问题

• RQ1 嵌入物理宇宙中的多个推理装置的联合知识会受到何种普遍约束？
• RQ2 推理装置的形式化方法如何克服认识逻辑中的逻辑全知问题？
• RQ3 推理装置的概率误差模型能否产生形式上类似于海森堡不确定性原理的结果？
• RQ4 如何对物理知识进行公理化，并扩展至共同知识、分布式知识和语义信息等概念？
• RQ5 推理复杂性（ID对Kolmogorov复杂度的类比）与算法信息论之间存在何种关系？

主要发现

• 任何嵌入物理宇宙的推理装置集合都受到根本性不可能定理的约束，其联合知识受限，且与宇宙的具体物理定律无关。
• 通过将知识限制在可计算、可错的推理中，扩展的ID框架避免了逻辑全知问题，使其适用于真实代理的建模。
• 两个独立ID的误差概率乘积存在下限，形式上类似于海森堡不确定性原理。
• ID对其宇宙状态命题的误差可使用距离函数 D(Γ(W), γ) 量化，从而支持对期望误差和方差的分析。
• 该形式化方法支持对物理知识的完整公理化，类比于Kripke结构，并可扩展至共同知识和分布式知识等概念。
• 通过将宇宙建模为真字符串的集合，并将ID建模为定理证明算法，可将物理知识应用于数学系统，其结果揭示了相互知识的极限。