[논문 리뷰] Toward a Formal Model of Cognitive Synergy

Ben Goertzel|arXiv (Cornell University)|2017. 03. 13.

Computability, Logic, AI Algorithms참고 문헌 8인용 수 10

한 줄 요약

이 논문은 고분류 이론을 사용하여 인지 역동성—계산적 한계를 극복하기 위해 인지 과정 간 상호 보완적 보조를 제공하는 것—을 형식화한다. 특히 함자, 자연 변환 및 교환 다이어그램을 중심으로 한다. 연구는 에이전트 모델의 계층을 제시하며, 최종적으로 PGMC 에이전트와 PrimeAGI에 도달한다. 그리고 이러한 다이어그램을 통과하는 경로의 비용 불등식을 통해 역동성을 정의함으로써 AGI 시스템 내에서의 역동성 분석을 위한 수학적으로 엄밀한 기반을 마련한다.

ABSTRACT

"Cognitive synergy" refers to a dynamic in which multiple cognitive processes, cooperating to control the same cognitive system, assist each other in overcoming bottlenecks encountered during their internal processing. Cognitive synergy has been posited as a key feature of real-world general intelligence, and has been used explicitly in the design of the OpenCog cognitive architecture. Here category theory and related concepts are used to give a formalization of the cognitive synergy concept. A series of formal models of intelligent agents is proposed, with increasing specificity and complexity: simple reinforcement learning agents; "cognit" agents with an abstract memory and processing model; hypergraph-based agents (in which "cognit" operations are carried out via hypergraphs); hypergraph agents with a rich language of nodes and hyperlinks (such as the OpenCog framework provides); "PGMC" agents whose rich hypergraphs are endowed with cognitive processes guided via Probabilistic Growth and Mining of Combinations; and finally variations of the PrimeAGI design, which is currently being built on top of OpenCog. A notion of cognitive synergy is developed for cognitive processes acting within PGMC agents, based on developing a formal notion of "stuckness," and defining synergy as a relationship between cognitive processes in which they can help each other out when they get stuck. It is proposed that cognitive processes relating to each other synergetically, associate in a certain way with functors that map into each other via natural transformations. Cognitive synergy is proposed to correspond to a certain inequality regarding the relative costs of different paths through certain commutation diagrams. Applications of this notion of cognitive synergy to particular cognitive phenomena, and specific cognitive processes in the PrimeAGI design, are discussed.

연구 동기 및 목표

• 인지 과정이 상호 보조를 통해 내부적 계산적 한계를 극복하는 방식을 형식화하고 수학적으로 엄밀한 모델을 개발함으로써, 비형식적 또는 아키텍처적 기술을 넘어서는 것.
• 일반 지능의 추상 원칙과 구체적 AGI 아키텍처 사이의 격차를 메우기 위해, 점차적으로 구체화되는 에이전트 모델의 계층에서 역동성을 형식화하는 것.
• 고분류 이론에 기반한 이론적 프레임워크를 제공하여 기존 및 향후 AGI 시스템(예: OpenCog 및 PrimeAGI)에서의 역동성 분석 및 평가를 가능하게 하는 것.
• 인지 역동성과 계산 효율성 간의 형식적 연결을 수립하며, 특히 '멈춤 상태(stuckness)'와 교환 다이어그램 내 경로 비용 비교를 통해 이를 다루는 것.

제안 방법

• 기본 강화 학습 에이전트에서 시작하여, 인지 에이전트, 초그래프 에이전트, PGMC 에이전트에 이르기까지 점차 기능적·구조적으로 구체화된 에이전트 모델의 계층을 제안한다.
• 인지 과정이 조합 폭발이나 관련 지식 부족으로 진행이 불가능한 상태가 되었을 때를 '멈춤 상태'로 정의하며, 이는 역동성의 촉발 조건이 된다.
• 함자와 자연 변환을 사용하여 인지 과정 간의 관계를 모델링하며, 과정들이 이러한 변환을 통해 상호 맵핑될 수 있을 때 역동성이 발생한다.
• 인지 과정 전이로 구성된 교환 다이어그램을 통과하는 다양한 경로의 상대적 비용을 비교하는 형식적 불등식을 도입하며, 저비용 경로가 역동성을 나타낸다.
• OpenCog/PrimeAGI에 이 형식을 적용하여, 지도 봉인화 및 PLN/ECAN 활동을 지역적 대비 분산 표현 간의 자연 변환으로 모델링한다.
• 초그래프 기반 표현으로의 확장을 통해, 인지 과정이 노드와 초연결선을 대상으로 작동하며, 확률적 성장 및 조합 탐색(PGMC)을 통해 인지 제어를 안내한다.

실험 결과

연구 질문

• RQ1 인지 과정 간 상호 보조를 통해 계산적 한계를 극복하는 데 기여하는 인지 역동성을 어떻게 형식적으로 정의할 수 있는가?
• RQ2 함자와 자연 변환과 같은 수학적 구조는 어떤 방식으로 역동적 행동을 보이는 인지 과정 간의 관계를 모델링할 수 있는가?
• RQ3 '멈춤 상태'는 어떻게 형식화되어 역동성의 촉발 조건이 되며, 교환 다이어그램 내 경로 비용과는 어떤 관계가 있는가?
• RQ4 OpenCog 및 PrimeAGI와 같은 시스템의 지역적 및 분산 기억 표현은 어떻게 상호 작용하여 인지 역동성을 발휘하며, 자연 변환을 통해 어떻게 모델링할 수 있는가?
• RQ5 제안된 형식은 초그래프 기반 에이전트를 초월하여 헤이팅 대수나 기타 고분류 구조에 기반한 다른 추상 계산 모델로 일반화될 수 있는가?

주요 결과

• 인지 역동성은 교환 다이어그램 내 경로 비용을 상호 감소시키는 인지 과정 간의 관계로 형식화되며, 한 과정이 다른 과정이 '멈춤 상태'에서 벗어나기 위해 저비용 경로를 제공할 때 발생한다.
• 모델은 자연 변환을 통해 함자 간의 맵핑이 이루어질 때, 역동성 경로를 유리하게 만드는 비용 불등식이 발생함을 규명하며, 이는 역동성 강도의 정량적 측정 가능성을 제공한다.
• OpenCog/PrimeAGI 맥락에서, 분산 표현에서 지역 표현으로의 지도 봉인화 및 지역 표현에서 분산 표현으로의 PLN/ECAN 과정은 자연 변환으로 모델링되며, 표현 유형 간 핵심적인 역동성이 존재함을 시사한다.
• PrimeAGI의 이중 네트워크 아키텍처—계층적 및 이질적 지식 구조를 조합한 것—는 각 구조를 유지하는 과정 간의 상호 역동성에 의존하며, 상호 함자 맵핑을 통해 형식화된다.
• 이 프레임워크는 패턴 탐색 및 진화적 학습과 같은 복잡한 인지 과정 내 역동성 분석을 가능하게 하며, AGI 설계에서 역동성을 체계적으로 평가할 수 있음을 시사한다.
• 논문은 이 형식이 초그래프를 초월하여 확장 가능함을 입증하며, 헤이팅 대수의 확률 분포 기반 기타 고분류 계산 모델로의 응용 가능성이 있음을 제시한다.