[论文解读] A Framework for Searching for General Artificial Intelligence

M. Khairul Amri Rosa, Jan Feyereisl+1 more|arXiv (Cornell University)|Nov 2, 2016

Machine Learning and Algorithms参考文献 60被引用 12

一句话总结

本文提出了一套以基于课程的渐进式学习为核心的通用人工智能（AGI）开发框架，其中智能被定义为能够获取技能以缩小、多样化并引导问题求解搜索的能力。该框架强调内在的、硬编码的技能（如“渐进式学习”）以及学习任务的结构化课程，以构建可泛化的通用能力，旨在统一研究方向并加速实现人类水平的AGI。

ABSTRACT

There is a significant lack of unified approaches to building generally intelligent machines. The majority of current artificial intelligence research operates within a very narrow field of focus, frequently without considering the importance of the 'big picture'. In this document, we seek to describe and unify principles that guide the basis of our development of general artificial intelligence. These principles revolve around the idea that intelligence is a tool for searching for general solutions to problems. We define intelligence as the ability to acquire skills that narrow this search, diversify it and help steer it to more promising areas. We also provide suggestions for studying, measuring, and testing the various skills and abilities that a human-level intelligent machine needs to acquire. The document aims to be both implementation agnostic, and to provide an analytic, systematic, and scalable way to generate hypotheses that we believe are needed to meet the necessary conditions in the search for general artificial intelligence. We believe that such a framework is an important stepping stone for bringing together definitions, highlighting open problems, connecting researchers willing to collaborate, and for unifying the arguably most significant search of this century.

研究动机与目标

• 通过定义一套共同的原则和技能基础，统一AGI研究中分散的研究路径。
• 解决缺乏系统性、可扩展且与实现无关的方法来开发通用智能的问题。
• 提供一个结构化的学习任务课程，使智能体能够逐步构建技能并实现跨领域的泛化。
• 作为AGI社区中研究人员、开发者和机构之间协作的通用语言和平台。
• 通过识别关键开放问题并优先确定AGI发展中的核心下一步，指导长期研究。

提出的方法

• 提出一种框架，将智能定义为通过技能获取来改进问题求解搜索的能力——即缩小、多样化并引导搜索至有希望的区域。
• 引入“内在属性”——即硬编码的基础技能，如“渐进式学习”——使智能体能够在无先验知识的情况下开始学习。
• 概述一种基于课程的训练系统，其中学习任务按顺序排列，以相互为基础，并通过检查确保有意义的泛化并避免利用行为。
• 采用模块化架构，其中“学校”组件负责管理不同环境（如2D/3D ToyWorld、Space Engineers）中的任务进度、反馈和评估。
• 使用多种环境——包括不连续的、连续的2D/3D环境以及逼真的环境——在复杂度和真实感逐步提升的条件下测试和训练智能体。
• 定义一种分层学习过程，其中每个任务都为积累支持更高阶能力的技能做出贡献。

实验结果

研究问题

• RQ1 如何正式地将智能定义为通过技能获取来改进问题求解搜索的能力？
• RQ2 哪些内在的、硬编码的技能是实现人工智能体渐进式、累积式学习所必需的？
• RQ3 如何构建学习任务的课程，以确保技能发展的累加性与泛化性，同时避免利用行为？
• RQ4 不同复杂度的环境在验证和扩展AGI能力方面发挥什么作用？
• RQ5 如何通过统一的框架统一研究努力并缩小AGI开发的搜索空间？

主要发现

• 该框架将智能定义为获取技能以缩小、多样化并引导问题求解搜索至通用解的能力。
• 内在属性（如“渐进式学习”）是基础性的，必须硬编码，以实现技能的渐进获取。
• 通过人工和自动检查的课程化学习任务，确保智能体以累加方式学习并实现有意义的泛化。
• 该框架与实现无关，设计为可扩展、可分析且系统化，以支持长期AGI开发。
• 所提出的方法通过分离目标、资源、时间和环境，实现模块化协作，使不同研究团队能够参与贡献。
• 该框架旨在作为一份持续演化的文档，未来将通过数学形式化和示例说明不断优化。