[论文解读] Toward a Formal Model of Cognitive Synergy

Ben Goertzel|arXiv (Cornell University)|Mar 13, 2017

Computability, Logic, AI Algorithms参考文献 8被引用 10

一句话总结

本文使用范畴论，特别是函子、自然变换和可交换图，将认知协同——认知过程之间为克服计算瓶颈而相互协助——形式化。它提出了一套代理模型的分层结构，最终形成 PGMC 代理和 PrimeAGI，并通过这些图中路径遍历的成本不等式定义协同，为分析 AGI 系统中的协同提供了数学上严谨的基础。

ABSTRACT

"Cognitive synergy" refers to a dynamic in which multiple cognitive processes, cooperating to control the same cognitive system, assist each other in overcoming bottlenecks encountered during their internal processing. Cognitive synergy has been posited as a key feature of real-world general intelligence, and has been used explicitly in the design of the OpenCog cognitive architecture. Here category theory and related concepts are used to give a formalization of the cognitive synergy concept. A series of formal models of intelligent agents is proposed, with increasing specificity and complexity: simple reinforcement learning agents; "cognit" agents with an abstract memory and processing model; hypergraph-based agents (in which "cognit" operations are carried out via hypergraphs); hypergraph agents with a rich language of nodes and hyperlinks (such as the OpenCog framework provides); "PGMC" agents whose rich hypergraphs are endowed with cognitive processes guided via Probabilistic Growth and Mining of Combinations; and finally variations of the PrimeAGI design, which is currently being built on top of OpenCog. A notion of cognitive synergy is developed for cognitive processes acting within PGMC agents, based on developing a formal notion of "stuckness," and defining synergy as a relationship between cognitive processes in which they can help each other out when they get stuck. It is proposed that cognitive processes relating to each other synergetically, associate in a certain way with functors that map into each other via natural transformations. Cognitive synergy is proposed to correspond to a certain inequality regarding the relative costs of different paths through certain commutation diagrams. Applications of this notion of cognitive synergy to particular cognitive phenomena, and specific cognitive processes in the PrimeAGI design, are discussed.

研究动机与目标

• 开发一个形式化、数学上严谨的认知协同模型——即认知过程相互协助以克服内部瓶颈——超越非正式或架构层面的描述。
• 通过在一系列日益具体的代理模型层级中形式化协同，弥合通用智能抽象原则与具体 AGI 架构之间的鸿沟。
• 提供一个基于范畴论的理论框架，可用于分析和评估现有及未来 AGI 系统（如 OpenCog 和 PrimeAGI）中的协同。
• 建立认知协同与计算效率之间的正式联系，特别是通过‘卡住’（stuckness）概念以及可交换图中路径成本的比较。

提出的方法

• 提出代理模型的分层结构：从基础的强化学习代理到认知代理、超图代理、PGMC 代理，最终到 PrimeAGI，每一层都增加结构和功能的具体性。
• 将‘卡住’正式定义为一种状态，即由于组合爆炸或缺乏相关知识，认知过程无法继续推进，作为协同的触发条件。
• 使用函子和自然变换来建模认知过程之间的关系，当过程可通过这些变换相互映射时，协同即产生。
• 引入一个形式不等式，用于比较由认知过程转换构成的可交换图中不同路径的相对成本，其中较低成本路径表示协同。
• 将形式化应用于 OpenCog/PrimeAGI，将诸如地图封装和 PLN/ECAN 活动等过程建模为表示形式（局部与分布式）之间的自然变换。
• 将框架扩展至基于超图的表示，其中认知过程作用于节点和超链接，并使用概率增长与组合挖掘（PGMC）来引导认知控制。

实验结果

研究问题

• RQ1 如何形式化定义认知协同——即认知过程之间的相互协助——以捕捉其在克服计算瓶颈中的作用？
• RQ2 哪些数学结构（如函子和自然变换）可以建模表现出协同行为的认知过程之间的关系？
• RQ3 如何将‘卡住’概念形式化为认知协同的触发条件，它与可交换图中路径成本的关系是什么？
• RQ4 在 OpenCog 和 PrimeAGI 等系统中，局部与分布式记忆表示如何实现认知协同，以及如何使用自然变换对此进行建模？
• RQ5 所提出的形式化是否可推广至超图代理之外的其他抽象计算模型，例如基于 Heyting 代数或其他范畴构造的模型？

主要发现

• 认知协同被正式定义为认知过程之间的关系，其中它们通过在可交换图中降低彼此的路径成本来实现，当一个过程能通过提供更低成本路径帮助另一个过程摆脱‘卡住’状态时，协同即产生。
• 该模型指出，当描述认知过程的函子之间的自然变换导致有利于协同路径的成本不等式时，协同即发生，从而为协同强度提供了定量度量。
• 在 OpenCog/PrimeAGI 的语境中，地图封装（从分布式表示到局部表示）和 PLN/ECAN 过程（从局部表示到分布式表示）被建模为自然变换，表明不同表示类型之间存在核心协同。
• PrimeAGI 中的双网络架构——结合分层与异构知识结构——被证明依赖于维护每种结构的过程之间的协同交互，该交互通过相互的函子映射形式化。
• 该框架使得对复杂认知过程（如模式挖掘和进化学习）中的协同进行分析成为可能，表明协同可在 AGI 设计中系统性地评估。
• 本文证明该形式化可扩展至超图之外，具有应用于其他范畴计算模型（如基于 Heyting 代数上的概率分布）的潜力。