[论文解读] Logical Induction

Scott Garrabrant, Tsvi Benson-Tilsen+3 more|arXiv (Cornell University)|Sep 12, 2016

Computability, Logic, AI Algorithms参考文献 91被引用 9

一句话总结

本文提出了一种可计算的逻辑归纳器——一种算法，能够随时间对形式语言中的逻辑命题（如皮亚诺算术）分配并更新概率。该算法满足关键期望属性，包括学习真值中的模式、建模伪随机序列，以及在不引发悖论的情况下形成一致的自指信念，同时在极限下严格优于通用半测度。

ABSTRACT

We present a computable algorithm that assigns probabilities to every logical statement in a given formal language, and refines those probabilities over time. For instance, if language is Peano arithmetic, it assigns probabilities to all arithmetical statements, including claims about twin prime conjecture, outputs of long-running computations, and its own probabilities. We show that our algorithm, an instance of what we call a logical inductor, satisfies a number of intuitive desiderata, including: (1) it learns to predict patterns of truth and falsehood in logical statements, often long before having resources to evaluate statements, so long as patterns can be written down in polynomial time; (2) it learns to use appropriate statistical summaries to predict sequences of statements whose truth values appear pseudorandom; and (3) it learns to have accurate beliefs about its own current beliefs, in a manner that avoids standard paradoxes of self-reference. For example, if a given computer program only ever produces outputs in a certain range, a logical inductor learns this fact in a timely manner; and if late digits in decimal expansion of $\pi$ are difficult to predict, then a logical inductor learns to assign $\approx 10\%$ probability to the $n$th digit of $\pi$ is a 7 for large $n$. Logical inductors also learn to trust their future beliefs more than their current beliefs, and their beliefs are coherent in limit (whenever $\phi \implies \psi$, $\mathbb{P}_\infty(\phi) \le \mathbb{P}_\infty(\psi)$, and so on); and logical inductors strictly dominate universal semimeasure in limit. These properties and many others all follow from a single logical induction criterion, which is motivated by a series of stock trading analogies. Roughly speaking, each logical sentence $\phi$ is associated with a stock that is worth \$1 per share if [...]

研究动机与目标

• 开发一种可计算算法，对形式语言（如皮亚诺算术）中的逻辑命题分配概率，并随时间不断修正。
• 确保该算法在逻辑命题的真值与假值模式被正式证明之前，就能学会预测这些模式。
• 使系统能够对自身概率形成准确的自指信念，避免标准的自指悖论。
• 在极限下实现一致性，确保逻辑蕴含关系在概率分配中得以保留。
• 证明该算法在极限下严格优于通用半测度，表明其具有强大的归纳性能。

提出的方法

• 该算法被表述为一种逻辑归纳器，满足一个源自股票交易类比的单一逻辑归纳准则。
• 每个逻辑命题 φ 与一只股票相关联，若 φ 为真则价值为 $1，该算法随时间交易这些股票以最小化财富损失。
• 该算法使用市场评分规则机制，基于预测准确性和市场效率来更新概率。
• 通过识别能最小化预测误差的统计摘要，该系统学会预测具有伪随机真值的命题序列。
• 通过强制执行：若 φ 蕴含 ψ，则 P∞(φ) ≤ P∞(ψ)，确保系统在极限下保持一致性。
• 该算法是可计算的，并随时间不断修正信念，其收敛性质确保其在极限下优于通用半测度。

实验结果

研究问题

• RQ1 可计算算法是否能在命题被证明之前，学会为其分配准确的概率？
• RQ2 系统如何在仍能分配一致概率的同时，对看似伪随机的真值序列进行建模？
• RQ3 逻辑归纳器能否在不陷入悖论的情况下，形成关于自身概率的自指信念？
• RQ4 逻辑归纳器的信念系统是否在极限下收敛到一致的概率分布？
• RQ5 逻辑归纳器是否在极限下严格优于通用半测度？

主要发现

• 该归纳器学会为 π 的第 n 位数字是 7 的概率分配约 10%，反映了数字分布的伪随机性。
• 它学会预测：一个仅产生特定范围内输出的程序，将始终如此运行，即使未完全执行。
• 该归纳器的信念在极限下保持一致：每当 φ 蕴含 ψ，就有 P∞(φ) ≤ P∞(ψ)。
• 该归纳器在极限下严格优于通用半测度，表明其具有优越的归纳性能。
• 该归纳器学会更信任其未来的信念，而非当前信念，体现了随时间的理性自我修正。
• 它学会在资源不足以评估命题之前，预测逻辑命题中真值与假值的模式。