[논문 리뷰] Existence and perception as the basis of AGI (Artificial General Intelligence)

Victor Senkevich|arXiv (Cornell University)|2022. 01. 30.

Educational Innovations and Challenges인용 수 8

한 줄 요약

이 논문은 존재와 인지의 엄밀한 정의를 의미와 지식의 기초로 삼아 인공통합지능(AGI)을 위한 형식적 프레임워크를 제안한다. 의미를 논리학적 및 정보이론적 구조를 통해 형식화함으로써, 저자는 의미 콘텐츠를 인식하고 처리할 수 있는 계산적으로 실행 가능한 AGI 모델을 제시한다. 이는 현재의 AI 접근 방식에서 크나큰 격차를 메우는 데 기여한다.

ABSTRACT

As is known, AGI (Artificial General Intelligence), unlike AI, should operate with meanings. And that's what distinguishes it from AI. Any successful AI implementations (playing chess, unmanned driving, face recognition etc.) do not operate with the meanings of the processed objects in any way and do not recognize the meaning. And they don't need to. But for AGI, which emulates human thinking, this ability is crucial. Numerous attempts to define the concept of "meaning" have one very significant drawback - all such definitions are not strict and formalized, so they cannot be programmed. The meaning search procedure should use a formalized description of its existence and possible forms of its perception. For the practical implementation of AGI, it is necessary to develop such "ready-to-code" descriptions in the context of their use for processing the related cognitive concepts of "meaning" and "knowledge". An attempt to formalize the definition of such concepts is made in this article.

연구 동기 및 목표

• AGI에서 '의미'에 대한 형식적이고 프로그래밍 가능한 정의가 부족한 문제를 해결함으로써 인간 수준의 지능을 구현하는 데 핵심적인 요구사항을 충족시키기 위해.
• 의미를 형식적 논리와 정보이론에 기반하여 상징적 AI와 현대 신경망 간의 격차를 메우기 위해.
• 의미와 지식과 같은 인지 개념을 '코드로 바로 구현할 수 있는' 형식적 체계를 개발하여 AGI 아키텍처에 적용 가능하게 하기 위해.
• 패턴 인식을 넘어서 의미 이해로 나아가는 데 기초가 되는 이론적 기반을 제공하기 위해.

제안 방법

• 일阶논리 프레임워크 내에서 존재를 논리적 술어로 형식화하여, 인지적 맥락에서 어떤 실체가 존재한다고 말할 수 있는지를 정의한다.
• 상호정보량과 같은 정보이론적 측정치를 사용하여 물리적 상태에서 내부 표현으로의 '인지'를 매핑으로 정의한다.
• 논리학적 및 정보이론적 형식화를 통합하여, 인지된 실체와 그 표현 간의 상호작용으로부터 의미가 어떻게 유도되는지를 모델링한다.
• 형식적 구조를 활용하여 존재와 인지를 통해 파생된 안정적이고 맥락적으로 일관된 표현으로서의 '지식'을 정의한다.
• 의미가 사전에 프로그래밍되지 않고, 존재하는 실체에 대한 인지를 통해 동적으로 구성되는 계산 아키텍처를 제안한다.
• 의미 콘텐츠를 실체와 그 인지 표현 간의 구조적이고 형식화 가능한 관계로 표현하여, 인지 작업에 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 의미를 어떻게 형식적으로 정의할 수 있을까? 이는 AGI에 대해 논리적으로 엄밀하고 계산적으로 실행 가능한 방식이어야 한다.
• RQ2 의미 콘텐츠가 인공지능 시스템에서 유도될 때 '존재'와 '인지'가 어떤 역할을 하는가?
• RQ3 논리학, 정보이론, 지식과 의미와 같은 인지 개념을 통합하는 유일한 형식적 체계를 구성할 수 있는가?
• RQ4 AGI 시스템이 단지 패턴을 탐지하는 것 외에도 의미를 인식하고 처리할 수 있도록 설계할 수 있는가?
• RQ5 어떤 최소한의 형식적 조건을 만족할 때, 시스템이 어떤 물체나 사건의 의미를 '이해한다'고 말할 수 있는가?

주요 결과

• 논문은 존재를 논리적 술어로 성공적으로 형식화하여, 인지 시스템 내에서 실체를 정의할 수 있도록 했다.
• 인지가 정보이론적 제약 조건이 있는 확률적 매핑으로 형식화되어, 의미 있는 표현과 의미 없는 표현 간의 측정 가능한 차이를 가능하게 했다.
• 프레임워크를 통해 인지 과정에서 파생된 안정적이고 맥락적으로 일관된 표현으로서의 '지식'을 도출할 수 있었다.
• 의미를 형식적 논리학과 정보이론에 기반하여 둠으로써, AGI에서 의미 이해를 계산적으로 실행 가능한 길로 확립했다.
• 통계적 패턴 매칭에 의존하는 것 외에도 의미에 대해 추론할 수 있는 AGI 시스템을 구축할 수 있는 기반을 제공했다.