[论文解读] Cognitive Bias for Universal Algorithmic Intelligence
本文提出将认知偏见——先验概率与搜索启发式——整合进通用算法智能模型，以弥合理论上通用但不切实际的模型与实用但非通用的认知架构之间的差距。通过在不牺牲通用性的前提下嵌入这些偏见，该方法借助感知、规划与心理理论等机制，实现了实用的人工通用智能，其可行性已在多种认知功能中得到验证。
Existing theoretical universal algorithmic intelligence models are not practically realizable. More pragmatic approach to artificial general intelligence is based on cognitive architectures, which are, however, non-universal in sense that they can construct and use models of the environment only from Turing-incomplete model spaces. We believe that the way to the real AGI consists in bridging the gap between these two approaches. This is possible if one considers cognitive functions as a "cognitive bias" (priors and search heuristics) that should be incorporated into the models of universal algorithmic intelligence without violating their universality. Earlier reported results suiting this approach and its overall feasibility are discussed on the example of perception, planning, knowledge representation, attention, theory of mind, language, and some others.
研究动机与目标
- 弥合理论上通用但不切实际的算法智能模型与实用但非通用的认知架构之间的差距。
- 证明认知功能可被形式化为‘认知偏见’——先验与启发式——而不会损害算法智能的通用性。
- 表明通过嵌入这些偏见，可使感知、规划与知识表征等核心AGI组件具备现实适用性。
- 建立一个统一框架，使通用智能模型能以形式上严谨的方式整合类人认知机制。
提出的方法
- 将感知、注意力与语言等认知功能形式化为结构化的先验与搜索启发式。
- 在不违反其通用性的前提下，将这些认知偏见嵌入通用算法智能模型。
- 以算法概率与索洛蒙诺夫归纳法作为基础框架，以在引入偏见的同时保持通用性。
- 将该方法应用于传统认知架构中图灵不完备的模型空间，通过偏见整合使其具备通用性。
- 通过规划、知识表征与心理理论等案例研究，证明方法的可行性。
- 确保所生成的模型在引入领域特定启发式后，仍具备通用学习与推理能力。
实验结果
研究问题
- RQ1认知功能能否被形式化为保留算法智能模型通用性的认知偏见？
- RQ2如何在不损害其普遍性的前提下，将先验与启发式整合进通用模型？
- RQ3认知偏见在理论上通用的框架内实现实用人工通用智能中扮演何种角色？
- RQ4感知、规划与心理理论在通用算法智能中可通过何种方式作为偏见实现？
- RQ5通过将认知功能作为结构化偏见嵌入，能否在AGI中同时实现通用性与实用性？
主要发现
- 感知、规划与注意力等认知功能可在通用算法智能框架内成功建模为认知偏见。
- 此类偏见的整合不会损害底层算法模型的通用性，从而保持其学习任意可计算环境的能力。
- 该方法在知识表征与心理理论等多个认知领域中均得到可行性验证。
- 该方法通过将抽象通用性建立在具体可学习的启发式与先验之上，使实用AGI成为可能。
- 该框架支持传统认知架构中常用的图灵不完备模型空间，同时通过偏见整合维持通用性。
- 该方法为实现可实现的人工通用智能提供了可行路径，实现了理论通用性与实用认知功能的统一。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。