[论文解读] Reasoning, Metareasoning, and Mathematical Truth: Studies of Theorem Proving under Limited Resources

Eric Horvitz, Adrian Klein|arXiv (Cornell University)|Feb 20, 2013

Logic, Reasoning, and Knowledge参考文献 15被引用 17

一句话总结

本文提出了一种贝叶斯框架，用于在资源受限条件下对不完整定理证明过程中的数学真理进行推理。通过基于证明进展建模对定理真理的信念，并应用决策理论的元推理，该框架在时间关键场景中确定了推理的最优停止点，表明信念更新与信息价值分析能够实现自动化推理系统中的高效、理性决策。

ABSTRACT

In earlier work, we introduced flexible inference and decision-theoretic metareasoning to address the intractability of normative inference. Here, rather than pursuing the task of computing beliefs and actions with decision models composed of distinctions about uncertain events, we examine methods for inferring beliefs about mathematical truth before an automated theorem prover completes a proof. We employ a Bayesian analysis to update belief in truth, given theorem-proving progress, and show how decision-theoretic methods can be used to determine the value of continuing to deliberate versus taking immediate action in time-critical situations.

研究动机与目标

• 开发一种在定理证明器尚未完成证明时评估对数学真理信念的方法。
• 通过将信念更新与决策理论控制相结合，解决资源受限定理证明的挑战。
• 确定何时应停止推理并基于继续证明搜索的预期收益采取行动。
• 应用元推理，以在计算成本与进一步推理的预期收益之间取得平衡。

提出的方法

• 本文使用贝叶斯分析，根据自动化定理证明中的观察进展来更新对数学命题为真的信念。
• 将定理为真的概率建模为投入证明的时间或努力的函数。
• 应用决策理论方法计算信息价值，评估进一步推理是否值得付出成本。
• 该框架评估继续搜索证明的期望效用，与基于当前信念立即采取行动的期望效用进行比较。
• 整合元推理，动态评估是否应继续搜索证明，或基于当前信念采取行动。
• 该方法基于规范性决策理论，使用不确定性下期望效用最大化的框架，对证明完成情况做出推断。

实验结果

研究问题

• RQ1 在不完整定理证明过程中，如何更新对数学命题为真的信念？
• RQ2 继续搜索证明与基于当前信念采取行动相比，其信息价值是什么？
• RQ3 如何利用元推理在时间受限环境中决定何时停止推理？
• RQ4 计算成本与数学真理信念之间的最优权衡是什么？
• RQ5 如何将贝叶斯信念更新与自动化推理中的决策理论控制相结合？

主要发现

• 贝叶斯信念模型能有效追踪随着证明进展而累积的对数学真理的更高置信度。
• 信息价值分析使能否继续或终止证明搜索的理性决策成为可能。
• 该框架识别出在计算成本与期望效用之间取得平衡的最优停止点。
• 该方法表明，基于部分证明进展的早期行动可能比等待完整证明完成更高效。
• 元推理显著提升了时间关键型定理证明场景中的决策质量。
• 该方法为在资源受限条件下管理自动化数学推理中的不确定性，提供了规范性、基于决策理论的基础。