[论文解读] Verifier Theory and Unverifiability

Roman V. Yampolskiy|arXiv (Cornell University)|Sep 1, 2016

Logic, programming, and type systems参考文献 61被引用 4

一句话总结

本文提出了验证者理论（Verifier Theory），这是一种形式化框架，用于将人类、程序、预言机和超级智能等证明验证者作为数学对象进行分析。它将不可验证性（unverifiability）定义为一种基本限制：在系统中，没有任何外部验证者能够确认其正确性，从而为人工智能、软件和定理证明中的信任、验证和自指性问题提供了理论基础。

ABSTRACT

Despite significant developments in Proof Theory, surprisingly little attention has been devoted to the concept of proof verifier. In particular, the mathematical community may be interested in studying different types of proof verifiers (people, programs, oracles, communities, superintelligences) as mathematical objects. Such an effort could reveal their properties, their powers and limitations (particularly in human mathematicians), minimum and maximum complexity, as well as self-verification and self-reference issues. We propose an initial classification system for verifiers and provide some rudimentary analysis of solved and open problems in this important domain. Our main contribution is a formal introduction of the notion of unverifiability, for which the paper could serve as a general citation in domains of theorem proving, as well as software and AI verification.

研究动机与目标

• 将证明验证者（包括人类、程序和超级智能）的概念形式化为数学对象，涵盖多种形态。
• 研究验证者内在的限制与特性，特别是人类数学家与计算系统中的表现。
• 提出并定义不可验证性作为验证系统中的一种正式属性。
• 基于其结构、复杂性和能力，建立验证者类型分类体系。
• 为未来在人工智能验证、软件正确性与形式化定理证明领域的研究提供基础框架。

提出的方法

• 基于其来源、机制与智能水平（如人类、算法性、预言式、超级智能）提出验证者的分类体系。
• 分析系统作为有效证明验证者所必需的最小与最大复杂度。
• 研究验证者中自验证与自指性问题，特别是试图验证自身正确性的系统。
• 引入不可验证性的形式化概念：即任何外部验证者均无法确认其正确性的陈述或系统。
• 运用逻辑与计算推理，探讨不可验证性在形式系统与人工智能中的影响。
• 将该框架应用于软件工程、密码学与人工智能验证等现实领域。

实验结果

研究问题

• RQ1 不同类型的证明验证者（包括人类与机器系统）的基本属性与限制是什么？
• RQ2 我们如何在逻辑与计算系统中正式定义并表征不可验证性的概念？
• RQ3 系统作为可靠证明验证者所需的最小与最大复杂度要求是什么？
• RQ4 自指或自验证系统在何种方式下会面临固有的逻辑矛盾或限制？
• RQ5 如何将验证者理论应用于提升人工智能、软件与形式化定理证明中的信任与正确性？

主要发现

• 本文正式引入了不可验证性概念，将其识别为在无外部代理可确认正确性的系统中的一项关键限制。
• 验证者理论建立了验证者的分类框架，区分了人类、程序化、预言式与超级智能形式。
• 研究表明，自验证会导致逻辑悖论或不可判定性，尤其在试图验证自身证明的系统中表现明显。
• 该研究证明，某些数学或计算陈述可能因缺乏可信的外部验证者而本质上不可验证。
• 该框架为未来在人工智能验证、软件正确性与形式化证明系统方面的研究提供了通用的引用基础。
• 分析表明，即使如超级智能等高级系统，若其推理过程不透明或无法外部检查，也可能面临不可验证性问题。