[논문 리뷰] A Framework for Searching for General Artificial Intelligence

M. Khairul Amri Rosa, Jan Feyereisl외 1명|arXiv (Cornell University)|2016. 11. 02.

Machine Learning and Algorithms참고 문헌 60인용 수 12

한 줄 요약

이 논문은 일반 인공지능(AGI) 개발을 위한 프레임워크를 제안하며, 교육과정 기반 점진적 학습에 중심을 두고 있다. 여기서 지능은 문제 해결 탐색을 좁히고, 다양화하며, 유망한 영역으로 이끄는 능력으로 정의된다. 이 프레임워크는 '점진적 학습'과 같은 내재된 하드코딩된 기술(예: 'gradual learning'))과 일반화 가능한 능력을 구축하기 위한 학습 과제의 체계적 교육과정을 강조한다. 이는 연구를 통합하고 인간 수준의 AGI 개발을 가속화하기 위한 목적이 있다.

ABSTRACT

There is a significant lack of unified approaches to building generally intelligent machines. The majority of current artificial intelligence research operates within a very narrow field of focus, frequently without considering the importance of the 'big picture'. In this document, we seek to describe and unify principles that guide the basis of our development of general artificial intelligence. These principles revolve around the idea that intelligence is a tool for searching for general solutions to problems. We define intelligence as the ability to acquire skills that narrow this search, diversify it and help steer it to more promising areas. We also provide suggestions for studying, measuring, and testing the various skills and abilities that a human-level intelligent machine needs to acquire. The document aims to be both implementation agnostic, and to provide an analytic, systematic, and scalable way to generate hypotheses that we believe are needed to meet the necessary conditions in the search for general artificial intelligence. We believe that such a framework is an important stepping stone for bringing together definitions, highlighting open problems, connecting researchers willing to collaborate, and for unifying the arguably most significant search of this century.

연구 동기 및 목표

• 다양한 AGI 연구 접근 방식을 통합하기 위해 원칙과 기술의 공통 기반을 정의하기 위해.
• 일반 지능을 개발하기 위한 체계적이고 확장 가능하며 실행 환경에 구애받지 않는 방법의 부족을 해결하기 위해.
• 에이전트가 점진적으로 기술을 습득하고 다양한 영역으로 일반화할 수 있도록 하는 학습 과제의 체계적 교육과정을 제공하기 위해.
• AGI 공동체의 연구자, 개발자, 기관 간 협업을 위한 공통 언어와 플랫폼을 제공하기 위해.
• 장기적인 연구를 이끌기 위해 AGI 개발의 핵심 열린 문제를 식별하고 필수적인 다음 단계를 우선순위에 두기 위해.

제안 방법

• 지능을 문제 해결 탐색을 향상시키는 능력으로 정의하며, 이는 기술 습득을 통해 좁히고, 다양화하며, 유망한 영역으로 이끈다.
• 에이전트가 사전 지식 없이 학습을 시작할 수 있도록 하는 '내재된 성질'—예를 들어 'gradual learning'과 같은 하드코딩된 기초 기술—을 도입한다.
• 학습 과제가 상호 보완적으로 구성되는 교육과정 기반 훈련 시스템을 설계하며, 의미 있는 일반화를 보장하고 오용을 방지하기 위한 점검을 포함한다.
• 다양한 환경(예: 2D/3D ToyWorld, Space Engineers)에서 작업 진행, 피드백, 평가를 관리하는 '학교' 구성 요소를 포함한 모듈러 아키텍처를 사용한다.
• 불연속적, 연속적 2D/3D 및 사진처럼 현실적인 환경을 사용하여 복잡성과 현실성의 증가에 따라 에이전트를 테스트하고 훈련한다.
• 각 과제가 고급 능력을 지원하는 데 기여하는 계층적 학습 과정을 정의한다.

실험 결과

연구 질문

• RQ1 지능을 문제 해결 탐색을 향상시키는 능력으로서의 기술 습득을 통해 공식적으로 정의할 수 있는가?
• RQ2 점진적이고 누적적인 학습을 가능하게 하기 위해 필수적인 내재된 하드코딩된 기술은 무엇인가?
• RQ3 학습 과제의 교육과정을 어떻게 구성하여 누적적이고 일반화 가능한 기술 습득을 보장하면서도 오용을 방지할 수 있는가?
• RQ4 다양한 복잡성 수준의 환경이 AGI 능력의 검증과 확장에 어떤 역할을 하는가?
• RQ5 통합된 프레임워크는 어떻게 연구 노력을 통합하고 AGI 개발을 위한 탐색 공간을 줄일 수 있는가?

주요 결과

• 프레임워크는 지능을 문제 해결을 위한 일반적 해법 탐색을 좁히고, 다양화하며, 유망한 영역으로 이끄는 능력으로 정의한다.
• 내재된 성질—예를 들어 'gradual learning'—은 기초가 되며 점진적인 기술 습득을 가능하게 하기 위해 하드코딩되어야 한다.
• 수동 및 자동 점검을 포함한 학습 과제의 교육과정은 에이전트가 누적적으로 학습하고 의미 있게 일반화하도록 보장한다.
• 이 프레임워크는 실행 환경에 구애받지 않으며, 장기적인 AGI 개발을 위해 확장 가능하고 분석 가능하며 체계적인 설계가 되어 있다.
• 목표, 자원, 시간, 환경을 분리함으로써 모듈러 협업을 가능하게 하여 다양한 연구 팀이 기여할 수 있도록 한다.
• 이 프레임워크는 향후 수학적 공식화와 예시를 바탕으로 지속적으로 발전시킬 수 있도록 살아있는, 진화하는 문서로 의도되어 있다.