[논문 리뷰] Artificial general intelligence through recursive data compression and grounded reasoning: a position paper

Arthur Franz|arXiv (Cornell University)|2015. 06. 14.

AI-based Problem Solving and Planning참고 문헌 5인용 수 3

한 줄 요약

이 논문은 재귀적 데이터 압축과 기반 추론을 바탕으로 한 인공통합지능(AGI) 프레임워크를 제안한다. 일반적인 압축 알고리즘—유연하고 적응 가능한 가설에 의해 이끌리는 것—이 데이터의 단순하고 직교적인 표현을 추출할 수 있으며, 이는 형식적 논리 없이도 자원 효율적이고 일반적인 지식 기반 추론을 가능하게 한다. 이는 직접적으로 압축된 시나리오 모델을 쿼리함으로써 이루어진다.

ABSTRACT

This paper presents a tentative outline for the construction of an artificial, generally intelligent system (AGI). It is argued that building a general data compression algorithm solving all problems up to a complexity threshold should be the main thrust of research. A measure for partial progress in AGI is suggested. Although the details are far from being clear, some general properties for a general compression algorithm are fleshed out. Its inductive bias should be flexible and adapt to the input data while constantly searching for a simple, orthogonal and complete set of hypotheses explaining the data. It should recursively reduce the size of its representations thereby compressing the data increasingly at every iteration. Abstract Based on that fundamental ability, a grounded reasoning system is proposed. It is argued how grounding and flexible feature bases made of hypotheses allow for resourceful thinking. While the simulation of representation contents on the mental stage accounts for much of the power of propositional logic, compression leads to simple sets of hypotheses that allow the detection and verification of universally quantified statements. Abstract Together, it is highlighted how general compression and grounded reasoning could account for the birth and growth of first concepts about the world and the commonsense reasoning about them.

연구 동기 및 목표

• 인공통합지능(AGI)을 달성하기 위한 핵심 연구 과제로 일반 데이터 압축을 확립하기 위해.
• 복잡한 시퀀스의 압축 가능성으로 측정 가능한 부분적 진전 기준을 정의하기 위해.
• 재귀적 압축과 기반 특징 추출을 통해 세계에 대해 학습하고 추론할 수 있는 시스템을 개발하기 위해.
• 형식적 논리의 일반 지식 추론에서의 한계를 극복하기 위해 추론을 압축 가능하고 인지적으로 의미 있는 표현에 기반하게 하기 위해.
• 암시적 규칙 기반 추론 없이도 보편적 기호화와 관계 추론을 가능하게 하기 위해 압축된 시나리오 모델을 활용하기 위해.

제안 방법

• 최적의 압축을 위한 이론적 기반으로 솔로몬off의 보편 사전을 사용하여 관측된 데이터를 설명하는 짧고 단순한 프로그램을 우선시한다.
• 반복적으로 표현 크기를 줄이기 위해 데이터에 종속된 직교적인 가설을 식별하고 개선하는 재귀적 압축 과정을 구현한다.
• 입력 데이터에 적응하는 가설에서 기반 특징을 구축하여 설명에 대한 탐색 공간을 동적으로 확장할 수 있도록 한다.
• 형식적 추론 없이도 압축된 표현에 직접 쿼리하여 공간적, 관계적, 또는 구조적 성질을 질문함으로써 추론을 기반화한다.
• 진전을 측정하기 위해 압축률 지표를 적용하며, 높아지는 압축률은 더 나은 일반화와 가설 품질을 반영한다.
• 압축된 모델에서 복잡한 질문(예: 대각선이나 공간적 관계에 대한 질문)을 직접 답변할 수 있는 능력을 시스템의 추론 능력 테스트로 사용한다.

실험 결과

연구 질문

• RQ1 일반 목적의 데이터 압축 알고리즘이 인공통합지능(AGI)을 달성하기 위한 핵심 메커니즘으로 기능할 수 있는가?
• RQ2 압축 기반 시스템은 형식적 논리나 사전 정의된 규칙에 의존하지 않고 일반 지식 기반 추론을 어떻게 지원할 수 있는가?
• RQ3 AGI 향한 부분적 진전을 정의하는 기준은 무엇이며, 이를 정량적으로 측정할 수 있는가?
• RQ4 규칙이 실패하는 경계 사례와 같은 일반화의 취약성은 어떻게 탐지하고 처리할 수 있는가?
• RQ5 기반화된 압축 표현은 복잡한 시나리오에서 보편적 기호화와 관계 추론을 얼마나 잘 지원할 수 있는가?

주요 결과

• 데이터 표현 크기를 줄이면서도 설명력을 유지하는 일반 압축 알고리즘은 AGI의 기초로 기능할 수 있다.
• 압축률은 AGI 향한 진전을 위한 유효하고 측정 가능한 지표이며, 높아지는 압축률은 더 나은 가설 품질을 반영한다.
• 기반 추론—예를 들어 '정사각형의 대각선은 중앙에서 만난다'와 같은 질문에 대한 답변—는 형식적 추론 없이도 직접적으로 압축된 모델에서 달성할 수 있다.
• 시스템은 압축 표현의 구조적 일관성에 기반해 보편 기호화 문장(예: '위(a,b)이면 아래(b,a)')를 탐지하고 검증할 수 있다.
• 기존의 기호 논리 시스템은 공간 관계를 표현하기 위해 지수적으로 큰 지식 기반을 필요로 하지만, 압축 모델은 시나리오 복잡도에 따라 더 효율적으로 스케일링된다.
• 일반화의 취약성(예: 시퀀스 시작에서의 실패)은 가설 오류로 간주하여 재귀적 압축을 통해 스스로 수정 가능한 학습이 가능하다.