[论文解读] The General Theory of General Intelligence: A Pragmatic Patternist Perspective

Ben Goertzel|arXiv (Cornell University)|Mar 28, 2021

Intelligence, Security, War Strategy参考文献 54被引用 18

一句话总结

本文提出了一套基于模式哲学和基础本体论的通用人工智能（AGI）综合理论框架，提出了一种基于类型化元图和组合操作引导优化（COFO）的高层认知架构。该研究展示了认知协同、机器意识以及伦理自我修改如何从该架构中自然涌现，并在OpenCog Hyperon和SingularityNET中实现实际应用，推动了有益且去中心化的AGI系统的发展路径。

ABSTRACT

A multi-decade exploration into the theoretical foundations of artificial and natural general intelligence, which has been expressed in a series of books and papers and used to guide a series of practical and research-prototype software systems, is reviewed at a moderate level of detail. The review covers underlying philosophies (patternist philosophy of mind, foundational phenomenological and logical ontology), formalizations of the concept of intelligence, and a proposed high level architecture for AGI systems partly driven by these formalizations and philosophies. The implementation of specific cognitive processes such as logical reasoning, program learning, clustering and attention allocation in the context and language of this high level architecture is considered, as is the importance of a common (e.g. typed metagraph based) knowledge representation for enabling "cognitive synergy" between the various processes. The specifics of human-like cognitive architecture are presented as manifestations of these general principles, and key aspects of machine consciousness and machine ethics are also treated in this context. Lessons for practical implementation of advanced AGI in frameworks such as OpenCog Hyperon are briefly considered.

研究动机与目标

• 基于模式哲学和形式本体论，构建人工与自然一般智能的统一理论基础。
• 设计一种高层AGI架构，通过通用知识表示（类型化元图）实现认知协同。
• 将一般智能形式化为期望奖励最大化，并采用实用的多准则评估方法。
• 通过去中心化、开源框架（如Hyperon和SingularityNET）实现自我反思、伦理及自我修改的AGI系统。
• 通过将理论原则与可扩展、分布式的软件系统对齐，指导先进AGI的实际实现。

提出的方法

• 提出一种以认知协同为核心、强调认知过程相互关联的模式论心智哲学。
• 利用区分、矛盾逻辑和动态知识元图构建基础本体论，以表示知识并简化模式。
• 引入COFO（基于组合操作的函数优化）作为认知过程的统一机制，以格同态关系和折叠操作为框架。
• 采用广义概率和子模式层次结构，量化多样认知任务中的简洁性与智能程度。
• 采用基于类型化元图的知识表示（Atomspace），实现推理、学习与注意力机制之间的互操作性与认知协同。
• 设计AI-DSL（AI领域特定语言），用于在分布式AGI系统中实现AI进程之间的动态、去中心化通信。

实验结果

研究问题

• RQ1 如何基于模式哲学和形式本体论构建一般智能的统一理论？
• RQ2 哪些机制能够实现逻辑推理、程序学习和注意力分配等多样化过程之间的认知协同？
• RQ3 如何将一般智能形式化为跨多准则的期望奖励最大化？
• RQ4 COFO驱动的优化与元图变换在支持自我修改、自我反思AGI的出现方面发挥何种作用？
• RQ5 去中心化、开源的AGI架构在促进伦理发展和抵御集中控制方面具有何种作用？

主要发现

• 所提出的模式论框架通过统一认知、知识表示与伦理自我修改，为一般智能提供了连贯的理论基础。
• 通过通用类型化元图知识表示，实现了推理、学习与注意力过程之间的动态交互，从而达成认知协同。
• 基于COFO的优化使认知操作可建模为组合操作的折叠与展开，从而实现高效且可形式化的推理。
• 广义概率与子模式层次结构的整合，为简洁性与智能提供了形式化度量，支持实用的一般智能。
• 去中心化的AGI系统（如基于OpenCog Hyperon和SingularityNET构建的系统）被证明对实现自我反思、伦理及自我修改的AGI行为至关重要。
• Hyperon等框架中理论与实践的对齐，支持开发出不仅智能，而且透明、民主、伦理上坚韧的AGI系统。