[논문 리뷰] Cognitive Bias for Universal Algorithmic Intelligence

Alexey Potapov, S. A. Rodionov외 2명|arXiv (Cornell University)|2012. 09. 19.

Computability, Logic, AI Algorithms참고 문헌 19인용 수 3

한 줄 요약

이 논문은 이론적으로 보편적이지만 실용적이지 않은 모델과 실용적이지만 비보편적인 인지 아키텍처 사이의 격차를 메우기 위해 보편적 알고리즘 지능 모델에 인지 편향(priors 및 검색 히وري스틱)을 통합하는 것을 제안한다. 보편성을 유지하면서도 이러한 편향을 통합함으로써, 인지 기능인 인식, 계획, 마음 이론 등에 대한 실용적인 인공통합지능(AGI)을 가능하게 하는 접근법을 제시하며, 다양한 인지 기능에서의 실현 가능성이 입증되었다.

ABSTRACT

Existing theoretical universal algorithmic intelligence models are not practically realizable. More pragmatic approach to artificial general intelligence is based on cognitive architectures, which are, however, non-universal in sense that they can construct and use models of the environment only from Turing-incomplete model spaces. We believe that the way to the real AGI consists in bridging the gap between these two approaches. This is possible if one considers cognitive functions as a "cognitive bias" (priors and search heuristics) that should be incorporated into the models of universal algorithmic intelligence without violating their universality. Earlier reported results suiting this approach and its overall feasibility are discussed on the example of perception, planning, knowledge representation, attention, theory of mind, language, and some others.

연구 동기 및 목표

• 이론적으로 보편적이지만 실용적이지 않은 알고리즘 지능 모델과 실용적이지만 비보편적인 인지 아키텍처 사이의 격차를 메우기 위해.
• 인지 기능이 보편성의 손실 없이 '인지 편향'—선수지와 히وري스틱—으로서 형식화될 수 있음을 보여주기 위해.
• 이러한 편향을 통합함으로써 인식, 계획, 지식 표현과 같은 핵심 AGI 구성 요소에서의 실세계 적용 가능성을 입증하기 위해.
• 보편적 지능 모델이 인간 유사 인지 메커니즘을 공식적으로 타당한 방식으로 통합할 수 있는 통합 프레임워크를 구축하기 위해.

제안 방법

• 인식, 주의, 언어와 같은 인지 기능을 구조화된 선수지와 검색 히وري스틱으로 형식화하기 위해.
• 보편성의 위반 없이 이러한 인지 편향을 보편적 알고리즘 지능 모델에 통합하기 위해.
• 보편성을 유지하면서 편향을 통합하기 위해 알고리즘 확률과 솔로몬오프 인도션을 기반 프레임워크로 사용하기 위해.
• 기존의 인지 아키텍처에서 튜링 비완전한 모델 공간을 편향 통합을 통해 보편성으로 만들기 위해.
• 계획, 지식 표현, 마음 이론 분야의 사례 연구를 통해 실현 가능성 입증하기 위해.
• 영역별 히وري스틱이 포함된 상태에서도 모델이 보편적 학습과 추론 능력을 유지할 수 있도록 보장하기 위해.

실험 결과

연구 질문

• RQ1 인지 기능은 보편적 알고리즘 지능 모델의 보편성을 유지하면서도 인지 편향으로서 형식화될 수 있는가?
• RQ2 선수지와 히وري스틱은 보편적 모델에 어떤 방식으로 통합되어야 하며, 그 일반성은 유지되는가?
• RQ3 이론적으로 보편적인 프레임워크 내에서 인지 편향이 실용적인 인공통합지능(AGI)을 가능하게 하는 역할은 무엇인가?
• RQ4 인식, 계획, 마음 이론은 보편적 알고리즘 지능에 어떤 방식으로 편향으로서 구현될 수 있는가?
• RQ5 구조화된 편향으로서 인지 기능을 통합함으로써 보편성과 실용성을 동시에 달성할 수 있는가?

주요 결과

• 인식, 계획, 주의와 같은 인지 기능은 보편적 알고리즘 지능 프레임워크 내에서 인지 편향으로 성공적으로 모델링될 수 있다.
• 이러한 편향의 통합은 기초 알고리즘 모델의 보편성을 손상시키지 않으며, 모든 계산 가능한 환경을 학습할 수 있는 능력을 유지한다.
• 지식 표현과 마음 이론을 포함한 다양한 인지 영역에서 접근법의 실현 가능성은 입증되었다.
• 추상적인 보편성에 구체적이고 학습 가능한 히وري스틱과 선수지를 기반으로 하여 실용적 AGI를 가능하게 한다.
• 기존의 인지 아키텍처에서 전통적으로 사용되는 튜링 비완전한 모델 공간을 유지하면서도, 편향 통합을 통해 보편성을 유지할 수 있다.
• 이론적 보편성과 실용적 인지 기능을 통합함으로써 실현 가능한 인공통합지능에 도달할 수 있는 실질적인 길을 제공한다.