[논문 리뷰] OpenCog Hyperon: A Framework for AGI at the Human Level and Beyond

Ben Goertzel, Vitaly Bogdanov외 11명|arXiv (Cornell University)|2023. 09. 19.

Distributed and Parallel Computing Systems인용 수 7

한 줄 요약

OpenCog Hyperon은 기호적 추론, 확률적 논리(PLN), 대규모 언어 모델(LLM)를 융합한 하이브리드 프레임워크를 통해 인간 수준의 인공통합지능(AGI)을 달성하기 위한 확장 가능하고 오픈소스인 인지 아키텍처를 제안한다. 이는 분산된 어텀스페이스, 고유의 프로그래밍 언어(MeTTa), 블록체인 기반 탈중앙화를 활용하여 자율적 학습, 추론, 반사적 자기수정이 가능한 자가개선형이며 윤리적으로 이끌리는 시스템을 가능하게 한다.

ABSTRACT

An introduction to the OpenCog Hyperon framework for Artificiai General Intelligence is presented. Hyperon is a new, mostly from-the-ground-up rewrite/redesign of the OpenCog AGI framework, based on similar conceptual and cognitive principles to the previous OpenCog version, but incorporating a variety of new ideas at the mathematical, software architecture and AI-algorithm level. This review lightly summarizes: 1) some of the history behind OpenCog and Hyperon, 2) the core structures and processes underlying Hyperon as a software system, 3) the integration of this software system with the SingularityNET ecosystem's decentralized infrastructure, 4) the cognitive model(s) being experimentally pursued within Hyperon on the hopeful path to advanced AGI, 5) the prospects seen for advanced aspects like reflective self-modification and self-improvement of the codebase, 6) the tentative development roadmap and various challenges expected to be faced, 7) the thinking of the Hyperon team regarding how to guide this sort of work in a beneficial direction ... and gives links and references for readers who wish to delve further into any of these aspects.

연구 동기 및 목표

• 인간 수준의 AGI와 그 이상을 달성할 수 있는 확장 가능하고 모듈적이며 수학적으로 탄탄한 인지 아키텍처를 개발하기 위해.
• 협소한 AI와 현재의 LLM의 한계를 극복하기 위해 기호적 추론, 확률적 논리, 신경기반 기호 학습을 통합하기 위해.
• 형식적이고 검증 가능한 인지 아키텍처를 통해 AGI 시스템의 반사적 자기수정과 자가개선을 가능하게 하기 위해.
• LLM을 '윤리적 오라클'로 활용하여 확률적 논리 네트워크(PLN)에 의해 검증함으로써 인간의 가치와의 일치를 보장함으로써 윤리적 추론을 AGI에 통합하기 위해.
• SingularityNET 블록체인과 Rholang 컴파일을 통합함으로써 AGI 연구를 위한 탈중앙화되고 오픈소스의 개발 생태계를 조성하기 위해.

제안 방법

• 지식은 구조화되고 유형이 지정된 관계(원소)로 저장되는 분산 어텀스페이스를 기반으로 하며, 이는 확장 가능한 기호적 추론과 지식 통합을 가능하게 한다.
• 패턴 매칭과 기호적 조작 기능을 갖춘 기능형 프로그래밍 언어인 MeTTa가 핵심 실행 계층으로 사용되며, 보안성과 탈중앙화된 실행을 위해 Rholang로 컴파일된다.
• 인지 과정은 에피소딕, 워킹, 절차적, 선언적 기억을 추론, 강화 학습, 다중모달 인식과 통합한 CogPrime 아키텍처를 통해 모델링된다.
• LLM은 일반지식과 윤리적 판단을 위해 사용되며, PLN은 LLM 출력의 형식적 검증을 위해 사용되어 악성 조작에 대한 취약성을 줄인다.
• 재귀적 자기감시와 메타인지 루프를 통해 목표 정련, 마음에 대한 이론 모델링, 반사적 자기 이해가 가능하다.
• SingularityNET 생태계와의 통합을 통해 Rholang를 활용한 보안성, 검증 가능성, 감사 가능한 인지 코드 실행이 탈중앙화된 배포를 실현한다.

실험 결과

연구 질문

• RQ1 기호적 추론, 확률적 논리, 신경망을 어떻게 통합하여 인간 수준의 강건하고 일반화 가능한 지능을 달성할 수 있는가?
• RQ2 LLM이 AGI 시스템에서 '윤리적 오라클'로 기능할 수 있는가? 그리고 그 출력은 어떻게 형식적으로 검증하여 조작이나 윤리적 이탈을 방지할 수 있는가?
• RQ3 충분한 수학적 엄밀성과 안전 보장을 갖춘 자가수정형 AGI 시스템을 설계할 수 있는가? 이를 통해 안전하고 유익한 자가개선이 가능할 수 있는가?
• RQ4 Hyperon과 같은 탈중앙화되고 오픈소스 기반의 AGI 프레임워크가 공동체 간에 확장될 수 있는가? 이 과정에서 인지 과정의 일관성과 검증 가능성은 어떻게 유지되는가?
• RQ5 반사적 자기 이해, 타인의 마음을 모델링하고 창의적이고 목표 중심의 추론을 수행하기 위해 필요한 인지 메커니즘은 무엇인가?

주요 결과

• MeTTa 인터프리터와 분산 어텀스페이스의 初기 알파 릴리스가 성공적으로 출시되었으며, 보안성 있는 탈중앙화된 실행을 위한 Rholang 컴파일 기능도 구현되었다.
• 초기 실험 결과, PLN를 통한 검증이 함께 적용될 경우 LLM이 인간의 윤리적 판단에 효과적인 오라클로 기능할 수 있음을 확인하였으며, 공격에 대한 취약성이 감소함을 입증하였다.
• MeTTa와 분산 어텀스페이스의 통합은 탈중앙화된 노드 간에 확장 가능하고 조합 가능하며 검증 가능한 인지 계산을 가능하게 한다.
• CogPrime 인지 모델은 에피소딕 기억, 워킹 기억, 절차적 학습, 마음에 대한 이론 모델링 등 인간 유사 인지 기능의 전반적인 세트를 지원한다.
• 기호적 추론, 확률적 논리, LLM을 융합한 하이브리드 아키텍처를 통해 자가개선과 윤리적 추론이 가능한 AGI 시스템의 실현 가능성을 입증하였다.
• 로드맵에는 공동체 확장, 응용 분야에서의 초기 시범 운영, 상용화 경로가 포함되어 있으며, 곧 기술 도구와 문서화 자료가 완비될 전망이다.