[论文解读] Existence and perception as the basis of AGI (Artificial General Intelligence)

Victor Senkevich|arXiv (Cornell University)|Jan 30, 2022

Educational Innovations and Challenges被引用 8

一句话总结

本文提出了一套基于存在与感知的正式框架，作为意义与知识的基础，从而为通用人工智能（AGI）提供理论支持。通过在逻辑与信息论结构中形式化‘意义’，作者构建了一个可计算实现的AGI模型，使系统能够识别并处理语义内容，填补了当前人工智能方法中的一项关键空白。

ABSTRACT

As is known, AGI (Artificial General Intelligence), unlike AI, should operate with meanings. And that's what distinguishes it from AI. Any successful AI implementations (playing chess, unmanned driving, face recognition etc.) do not operate with the meanings of the processed objects in any way and do not recognize the meaning. And they don't need to. But for AGI, which emulates human thinking, this ability is crucial. Numerous attempts to define the concept of "meaning" have one very significant drawback - all such definitions are not strict and formalized, so they cannot be programmed. The meaning search procedure should use a formalized description of its existence and possible forms of its perception. For the practical implementation of AGI, it is necessary to develop such "ready-to-code" descriptions in the context of their use for processing the related cognitive concepts of "meaning" and "knowledge". An attempt to formalize the definition of such concepts is made in this article.

研究动机与目标

• 为AGI中的‘意义’提供正式且可编程的定义，这是实现人类级智能的核心要求。
• 通过将意义建立在形式逻辑与信息论的基础上，弥合符号式AI与现代神经网络之间的鸿沟。
• 开发一种‘可直接编码’的形式化体系，用于认知概念如‘意义’与‘知识’，使其可被集成至AGI架构中。
• 提供AGI的理论基础，使其超越模式识别，迈向语义理解。

提出的方法

• 在一阶逻辑框架内将‘存在’形式化为一个逻辑谓词，以定义在认知语境中何种实体可被认为存在。
• 将‘感知’定义为从物理状态到内部表征的映射，使用互信息等信息论度量进行约束。
• 整合逻辑与信息论的形式化体系，以建模意义如何从被感知的实体与其表征之间的相互作用中产生。
• 利用该形式化结构，将‘知识’定义为源自感知与存在的稳定且语境一致的表征集合。
• 提出一种计算架构，其中意义并非预先编程，而是通过感知存在的实体动态构建而成。
• 通过将语义内容编码为实体与其感知表征之间的结构化、可形式化的关联，将该框架应用于认知任务。

实验结果

研究问题

• RQ1 如何以在逻辑上严谨且计算上可实现的方式正式定义‘意义’，以适用于AGI？
• RQ2 ‘存在’与‘感知’在人工系统中语义内容的产生过程中起到何种作用？
• RQ3 能否构建一个统一的形式化体系，整合逻辑、信息论以及知识与意义等认知概念？
• RQ4 如何设计AGI系统，使其能够识别并处理意义，而非仅仅检测模式？
• RQ5 在何种最小形式化条件下，可认为一个系统‘理解’了某个对象或事件的意义？

主要发现

• 本文成功地将‘存在’形式化为一个逻辑谓词，使认知系统中实体的定义成为可能。
• 感知被形式化为具有信息论约束的概率映射，从而能够对有意义与无意义的表征做出可度量的区分。
• 该框架使‘知识’可被推导为源自感知过程的稳定且语境一致的表征。
• 通过将意义建立在形式逻辑与信息论的基础上，为在AGI中实现语义理解提供了计算上可行的路径。
• 该方法为构建能够推理意义而非依赖统计模式匹配的AGI系统提供了理论基础。