[論文レビュー] Constraints on physical reality arising from a formalization of knowledge

David H. Wolpert|arXiv (Cornell University)|Nov 9, 2017

Computability, Logic, AI Algorithms参考文献 18被引用数 3

ひとこと要約

本稿は、『推論装置』（ID）を通じて物理的エージェントにおける知識獲得を形式化し、ID間の共同知識にかかる制約が、特定の物理法則に依存しない物理的現実の根本的限界をもたらすことを示している。また、知識獲得の4つのモード（観察、制御、予測、記憶）の構造を統合することで、認識論的論理における論理的全知の問題を克服し、誤差の範囲と確率的推論を伴う現実的な物理的知識の形式化を可能にした。

ABSTRACT

There are (at least) four ways that an agent can acquire information concerning the state of the universe: via observation, control, prediction, or via retrodiction, i.e., memory. Each of these four ways of acquiring information seems to rely on a different kind of physical device (resp., an observation device, a control device, etc.). However it turns out that certain mathematical structure is common to those four types of device. Any device that possesses a certain subset of that structure is known as an "inference device" (ID). Here I review some of the properties of IDs, including their relation with Turing machines, and (more loosely) quantum mechanics. I also review the bounds of the joint abilities of any set of IDs to know facts about the physical universe that contains them. These bounds constrain the possible properties of any universe that contains agents who can acquire information concerning that universe. I then extend this previous work on IDs, by adding to the definition of IDs some of the other mathematical structure that is common to the four ways of acquiring information about the universe but is not captured in the (minimal) definition of IDs. I discuss these extensions of IDs in the context of epistemic logic (especially possible worlds formalisms like Kripke structures and Aumann structures). In particular, I show that these extensions of IDs are not subject to the problem of logical omniscience that plagues many previously studied forms of epistemic logic.

研究の動機と目的

• 物理的宇宙に埋め込まれたエージェントが観察、制御、予測、記憶を通じてどのように知識を獲得するかを形式化すること。
• どのような物理的宇宙であっても、その基礎的な法則に依存せずに、複数の推論装置（ID）の共同知識に普遍的な制約が生じることを特定すること。
• 4つの知識獲得モードの構造を統合することで、認識論的論理における論理的全知の問題を解消するようにIDフレームワークを拡張すること。
• 確率的推論、誤差解析、および可能な状態間の距離尺度をサポートする物理的知識の形式的枠組みを構築すること。
• 推論の複雑さとアルゴリズム的情報理論との関係を探索し、ハイゼンベルクの不確定性原理に類似した概念を含めること。

提案手法

• 観察、制御、予測、記憶のデバイスに共通する特定の数学的構造を持つ物理的システムとして、推論装置（ID）を定義する。
• Kripke構造とAumann構造を用いて知識と信念をモデル化し、IDを認識論的論理フレームワークに埋め込む。
• 4つの知識獲得モードの特徴を統合した強化されたIDモデルを導入し、計算可能で誤りを含む推論に限定することで、論理的全知を回避する。
• 宇宙の状態に確率分布を適用して不確実性をモデル化し、誤差積の上限を導出し、量子力学的不確定性原理に類似した関係を確立する。
• 主張の誤差を定量化する距離関数 D(Γ(W), γ) を導入し、期待誤差、分散、誤差伝搬の分析を可能にする。
• 物理的知識を数学的システムに応用するための形式的枠組みを拡張し、宇宙を真の文字列の集合とし、IDを定理証明アルゴリズムとしてモデル化する。

実験結果

リサーチクエスチョン

• RQ1 物理的宇宙に埋め込まれた複数の推論装置の共同知識に、どのような普遍的制約が生じるか？
• RQ2 推論装置の形式的枠組みは、認識論的論理における論理的全知の問題をどのように克服できるか？
• RQ3 推論装置の確率的誤差モデルは、ハイゼンベルクの不確定性原理に形式的に類似した結果をもたらすか？
• RQ4 物理的知識は、共通知識、分散知識、意味的情報といった概念へとどのように公理的かつ拡張可能か？
• RQ5 推論の複雑さ（コルモゴロフ複雑度のID版）とアルゴリズム的情報理論の関係は何か？

主な発見

• 物理的宇宙に埋め込まれた任意の推論装置の集合は、その宇宙の物理法則にかかわらず、根本的な不可能性定理に従い、その共同知識が制約を受ける。
• 拡張されたIDフレームワークは、計算可能で誤りを含む推論に限定することで、論理的全知を回避し、現実のエージェントのモデル化に適している。
• 2つの独立したIDの誤差確率の積には下限が存在し、形式的にハイゼンベルクの不確定性原理に類似している。
• IDが宇宙の状態についての主張における誤差は、距離関数 D(Γ(W), γ) を用いて定量化可能であり、期待誤差や分散の分析が可能になる。
• 形式的枠組みは、Kripke構造に類似した物理的知識の完全な公理的体系をサポートし、共通知識や分散知識といった概念への拡張も可能である。
• 宇宙を真の文字列の集合とし、IDを定理証明アルゴリズムとしてモデル化することで、物理的知識を数学的システムに応用可能であり、それらの相互知識の限界に関する結果が得られる。