[論文レビュー] Verifier Theory and Unverifiability

Roman V. Yampolskiy|arXiv (Cornell University)|Sep 1, 2016

Logic, programming, and type systems参考文献 61被引用数 4

ひとこと要約

この論文は、人間、プログラム、オラクル、スーパーアイテイジジェンスなどを含む証明検証者を数学的対象として分析するための形式的枠組み「検証者理論」を導入する。未検証性（unverifiability）を、外部の検証者が正しさを確認できないシステムにおける根本的な制限として定義し、AI、ソフトウェア、定理証明における信頼性、検証、自己言及に関する議論の基盤を確立する。

ABSTRACT

Despite significant developments in Proof Theory, surprisingly little attention has been devoted to the concept of proof verifier. In particular, the mathematical community may be interested in studying different types of proof verifiers (people, programs, oracles, communities, superintelligences) as mathematical objects. Such an effort could reveal their properties, their powers and limitations (particularly in human mathematicians), minimum and maximum complexity, as well as self-verification and self-reference issues. We propose an initial classification system for verifiers and provide some rudimentary analysis of solved and open problems in this important domain. Our main contribution is a formal introduction of the notion of unverifiability, for which the paper could serve as a general citation in domains of theorem proving, as well as software and AI verification.

研究の動機と目的

• 人間、プログラム、スーパーアイテイジジェンスを含む多様な形態の証明検証者を、数学的対象として形式化すること。
• 検証者の本質的制限および性質、特に人間の数学者と計算システムにおけるものについて調査すること。
• 検証システムにおける形式的性質としての未検証性の概念を導入し、定義すること。
• 構造、複雑性、能力に基づいて、検証者の種類を分類するための体系を確立すること。
• 今後のAI検証、ソフトウェア正しさ、形式的定理証明分野における研究の基盤を提供すること。

提案手法

• 人間、アルゴリズム的、オラクル的、スーパーアイテイジジェンス的など、検証者の出所、メカニズム、知能水準に基づく分類体系を提唱する。
• 有効な証明検証者として機能するための、システムが必要とする最小および最大の複雑性を分析する。
• 自己検証や自己言及の問題を検証者において検討し、特に自身の正しさを検証しようとするシステムにおける問題を分析する。
• 未検証性の形式的概念を導入する：外部の検証者がその正しさを確認できない文またはシステム。
• 論理的および計算的推論を用いて、未検証性が形式的システムおよびAIに与える影響を検討する。
• ソフトウェア工学、暗号、人工知能検証などの実世界の分野にこの枠組みを適用する。

実験結果

リサーチクエスチョン

• RQ1 人間および機械ベースのシステムを含む、さまざまな証明検証者の根本的性質および制限は何か？
• RQ2 論理的および計算的システムにおける未検証性の概念を形式的に定義し、特徴づける方法は何か？
• RQ3 信頼性のある証明検証者として機能するための、システムが要する最小および最大の複雑性は何か？
• RQ4 自己言及的または自己検証的システムは、どのような点で根本的な論理的矛盾や制限に直面するか？
• RQ5 検証者理論は、AI、ソフトウェア、形式的定理証明における信頼性と正しさを向上させるために、どのように応用できるか？

主な発見

• 本論文は、外部のエージェントが正しさを確認できないシステムにおける根本的制限として、未検証性の概念を形式的に導入する。
• 検証者理論は、人間、プログラム的、オラクル的、スーパーアイテイジジェンス的形態を区別する分類フレームワークを確立する。
• 研究は、自己検証が、特に自身の証明を検証しようとするシステムにおいて、論理的パラドックスや決定不能性を引き起こすことを明らかにする。
• 信頼できる外部検証者が存在しないため、特定の数学的または計算的文は本質的に未検証である可能性があることを示す。
• 本フレームワークは、今後のAI検証、ソフトウェア正しさ、形式的証明システム分野における研究の一般的な出典として機能する。
• 分析により、その推論プロセスが透明でない、または外部から検査できない限り、高度なシステム（例：スーパーアイテイジジェンス）であっても未検証性に直面する可能性があることが示された。