[论文解读] Artificial general intelligence through recursive data compression and grounded reasoning: a position paper

Arthur Franz|arXiv (Cornell University)|Jun 14, 2015

AI-based Problem Solving and Planning参考文献 5被引用 3

一句话总结

本文提出了一种基于递归数据压缩和具身推理的人工通用智能（AGI）框架。它主张，通过灵活、自适应的假设引导的一般压缩算法，能够提取数据的简洁、正交表示，从而在不使用形式逻辑的情况下，通过直接查询压缩后的场景模型，实现资源丰富、常识性的推理。

ABSTRACT

This paper presents a tentative outline for the construction of an artificial, generally intelligent system (AGI). It is argued that building a general data compression algorithm solving all problems up to a complexity threshold should be the main thrust of research. A measure for partial progress in AGI is suggested. Although the details are far from being clear, some general properties for a general compression algorithm are fleshed out. Its inductive bias should be flexible and adapt to the input data while constantly searching for a simple, orthogonal and complete set of hypotheses explaining the data. It should recursively reduce the size of its representations thereby compressing the data increasingly at every iteration. Abstract Based on that fundamental ability, a grounded reasoning system is proposed. It is argued how grounding and flexible feature bases made of hypotheses allow for resourceful thinking. While the simulation of representation contents on the mental stage accounts for much of the power of propositional logic, compression leads to simple sets of hypotheses that allow the detection and verification of universally quantified statements. Abstract Together, it is highlighted how general compression and grounded reasoning could account for the birth and growth of first concepts about the world and the commonsense reasoning about them.

研究动机与目标

• 将通用数据压缩确立为实现人工通用智能（AGI）的核心研究方向。
• 通过复杂序列的可压缩性，定义可度量的部分AGI进展标准。
• 开发一种能够通过递归压缩和具身特征提取来学习和推理世界本质的系统。
• 通过将推理建立在可压缩、具有感知意义的表示之上，克服符号逻辑在常识推理中的局限性。
• 通过利用压缩后的场景模型，实现在无需显式规则推理的情况下进行通用量化和关系推理。

提出的方法

• 以Solomonoff的通用先验作为最优压缩的理论基础，优先选择能够解释观测数据的简短、简单的程序。
• 实施一种递归压缩过程，通过识别并优化正交、依赖于数据的假设，迭代减少表示大小。
• 从假设中构建一个灵活的特征基，使其能适应输入数据，从而实现解释空间的动态扩展。
• 通过直接从模型中查询空间、关系或结构属性，而非通过符号演绎，实现推理的具身化。
• 使用压缩率指标来衡量进展，压缩率越高，表示泛化能力和假设质量越好。
• 将系统直接从压缩模型中回答复杂查询（例如关于对角线或空间关系的问题）的能力，作为推理能力的测试。

实验结果

研究问题

• RQ1 通用数据压缩算法能否作为实现人工通用智能的核心机制？
• RQ2 基于压缩的系统如何在不依赖形式逻辑或预定义规则的情况下支持常识推理？
• RQ3 什么标准可定义AGI的部分进展？这些标准如何实现定量测量？
• RQ4 系统如何检测并处理其泛化中的脆弱性，例如规则在序列起始处失效的边缘情况？
• RQ5 具身的、压缩的表示在多大程度上能支持复杂场景中的通用量化和关系推理？

主要发现

• 一种能够递归减少数据表示大小并保持解释力的一般压缩算法，可作为AGI的基础。
• 压缩率是衡量AGI进展的有效、可度量指标，压缩率的提升反映了假设质量的提高。
• 具身推理——例如直接回答“正方形的对角线是否在中间相交？”——可直接从压缩模型中实现，无需符号演绎。
• 系统可通过压缩表示中的结构一致性，检测并验证全称命题（例如“若a在b之上，则b在a之下”）。
• 传统符号逻辑系统在编码空间关系时需要呈指数增长的知识库，而压缩模型则能更高效地随场景复杂度扩展。
• 泛化中的脆弱性（例如在序列起始处失效）可通过将其视为假设错误来处理，从而实现通过递归压缩进行自我纠正的学习。