[논문 리뷰] The Artificial Scientist: Logicist, Emergentist, and Universalist Approaches to Artificial General Intelligence

Michael Timothy Bennett, Yoshihiro Maruyama|arXiv (Cornell University)|2021. 10. 05.

Computability, Logic, AI Algorithms참고 문헌 15인용 수 7

한 줄 요약

이 논문은 인공지능 과학자—노벨상을 수상할 만한 독립적인 과학 연구를 자율적으로 수행할 수 있는 인공지능—가 되기 위한 조건을 정의한다. 이를 위해 논리주의, 기능주의, 보편주의 접근 방식을 융합한다. 연구는 근거 기반, 추론 기반, 인과 기반, 그리고 몸으로 경험하는 인지 기반의 추론 방식을 통합한 하이브리드 시스템이 과학적 가설 생성, 실험 설계, 그리고 설명 가능한 과학적 발견을 위해 필수적이라고 주장한다.

ABSTRACT

We attempt to define what is necessary to construct an Artificial Scientist, explore and evaluate several approaches to artificial general intelligence (AGI) which may facilitate this, conclude that a unified or hybrid approach is necessary and explore two theories that satisfy this requirement to some degree.

연구 동기 및 목표

• 인공 에이전트가 독립적이고 노벨 수상 수준의 과학 연구를 수행할 수 있는 인공지능 과학자로 간주되기 위해 필요한 최소한의 인지 능력을 명확히 하기 위해.
• 기존의 AGI 패러다임—논리주의, 기능주의, 보편주의—이 과학적 발견, 특히 가설 생성, 실험 설계, 설명 능력에 얼마나 부합하는지 평가하기 위해.
• 단일 AGI 패러다임만으로는 충분하지 않으며, 과학적 탐구의 전반적 범위를 충족시키기 위해 통합되거나 하이브리드 프레임워크가 필수적임을 주장하기 위해.
• 기호의 기원이 감각 입력이나 사전 정의된 기호 집합에만 기반하는 것이 아니라, 과제 관련 목표와 환경 상호작용에 기반해야 한다고 제안하기 위해.
• 이론적 및 예시적 과제를 통해 관찰 데이터만으로는 동시에 존재하고 상호 배타적인 규칙를 발견할 수 없음을 보여주며, 이를 위해 가설 추론과 실험적 검증이 필요하다고 주장하기 위해.

제안 방법

• 핵심 과학적 능력—가설 표현, 귀납적 추론, 연역적 및 추론적 추론, 인과적 추론, 실험 기획—을 통해 인공지능 과학자를 정의하기 위해.
• 실험을 신체적이고 환경과 상호작용하는 과정으로 간주하여 인지 능력을 에이전트의 내부에만 국한하지 않고 환경과의 상호작용으로 확장하는 몸으로 경험하는 인지 이론을 통합하기 위해.
• 논리주의 형식주의(예: 기호 추론을 위한 Apperception Engine), 기능주의 접근 방식(예: 신경망 기반 기호의 기초화), 보편주의 원리(예: 가설 선택에 대한 오크함의 면도)를 융합한 하이브리드 아키텍처를 제안하기 위해.
• 순수 귀납적 시스템(예: Apperception Engine)의 한계와 가설 추론 및 실험을 필요로 하는 시스템을 대비하여 사고 실험을 사용하기 위해.
• 관찰된 사례에 대한 '내포적' 해법—추상적 규칙 기반의 일반화—과 '외연적' 해법—기계적 암기 기반의 해법—을 대비하여, 내포적 해법이 맥락 간 일반화에 유리하다는 점을 설명하기 위해.
• 위험 감수성과 기대 효용, 자원 제약, 생존 제약를 고려한 위험 기반 효용 모델링(예: 산술 평균 대비 기하 평균)을 적용하여 실험의 우선순위를 결정하기 위해.

실험 결과

연구 질문

• RQ1 인공 에이전트가 독립적이고 노벨 수준의 과학적 발견을 수행할 수 있는 인공지능 과학자로 간주되기 위해 반드시 필요한 인지 및 추론 능력은 무엇인가?
• RQ2 논리주의, 기능주의, 보편주의 접근 방식의 AGI가 과학적 추론, 가설 생성, 실험 설계 능력에서 얼마나 유사한가?
• RQ3 관찰 데이터만으로는 왜 한 과제에서 동시에 존재하고 상호 배타적인 규칙를 발견할 수 없으며, 가설 추론은 어떤 역할을 하는가?
• RQ4 기호 체계가 어떻게 의미 있게 기원할 수 있는가? 즉, 기호가 임의적이지 않고 과제의 관련성과 목표 지향적 행동에 기반해야 한다는 점은 어떻게 보장할 수 있는가?
• RQ5 과학적 가설이 단지 반증 가능할 뿐 아니라 타당성 있고 가치 있으며 인간 청중에게 설명 가능하도록 보장하기 위해 어떤 메커니즘이 필요한가?

주요 결과

• 인공지능 과학자는 자율적 과학적 탐구를 수행하기 위해 귀납적, 연역적, 추론적, 인과적, 몸으로 경험하는 인지 기반의 추론 방식을 통합해야 한다.
• Apperception Engine처럼 순수 귀납적 시스템은 과제를 지배하는 다수의 동시적 규칙가 존재할 경우 실험 없이 서로 배타적인 가설을 구분하지 못하므로 실패한다.
• 내포적 해법—추상적이고 규칙 기반이며 일반화 가능한 해법—은 데이터 효율성과 과학적 타당성에서 외연적 해법(기계적 암기)을 능가하지만, 이를 위해서는 가설 추론이 필요하다.
• 가설 선택은 진리 값 외에도 타당성과 기대 효용을 고려한 히وري스틱에 의해 이끌려야 하며, 이는 가설 공간 탐색의 효율성을 확보하기 위함이다.
• 기호의 기원은 감각 입력 외에도 과제 관련 목표와 환경 상호작용에 기반해야 하며, 이를 통해 의미와 설명 가능성 보장이 가능하다.
• 실험 설계는 위험 회피와 기회비용을 고려해야 하며, 장기적 능력과 생존을 유지하기 위해 기하 평균과 같은 효용 모델이 선호되어야 한다.