[논문 리뷰] Embodied, Situated, and Grounded Intelligence: Implications for AI

Tyler Millhouse, Melanie E. Moses외 1명|arXiv (Cornell University)|2022. 10. 24.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 워크숍 보고서는 타고나고, 환경에 둘러싸이며, 기반을 두고 있는 지능이 강력하고 인간 수준의 인공지능을 달성하는 데 필수적이라고 주장한다. 철학, 인지과학, 인공지능 분야의 통찰을 바탕으로, 이 논문은 인지 기능이 신체적 몸과 환경 상호작용에서 분리될 수 없으며, 현재의 인공지능 시스템—특히 대규모 언어 모델—신체적 경험과 환경 기반 학습이 부족하기 때문에 진정한 이해를 이룩하지 못한다고 주장한다.

ABSTRACT

In April of 2022, the Santa Fe Institute hosted a workshop on embodied, situated, and grounded intelligence as part of the Institute's Foundations of Intelligence project. The workshop brought together computer scientists, psychologists, philosophers, social scientists, and others to discuss the science of embodiment and related issues in human intelligence, and its implications for building robust, human-level AI. In this report, we summarize each of the talks and the subsequent discussions. We also draw out a number of key themes and identify important frontiers for future research.

연구 동기 및 목표

• 신체적 몸, 환경에 둘러싸임, 기반을 두는 지능이 인간 지능에서 차지하는 역할과 인공지능에 대한 함의를 조사하기 위해.
• 인공지능 시스템이 신체적 몸이나 환경 상호작용 없이도 강력하고 일반화 가능한 지능을 달성할 수 있다는 가정을 도전하기 위해.
• 인지과학과 발달 심리학의 통찰이 더 인간적인 인공지능 시스템 설계에 어떻게 기여할 수 있는지 탐색하기 위해.
• 현재의 대규모 신경망 모델의 한계, 특히 의미적 효율성과 진리 민감도에 대한 추론의 부족함을 분석하기 위해.
• 인간의 발달 및 인지 과정을 반영하는 방식으로 학습하고 추론하며 이해하는 인공지능 시스템을 개발하기 위한 핵심 연구 분야를 규명하기 위해.

제안 방법

• 철학, 심리학, 신경과학, 인공지능 분야의 다학제적 관점을 통합하여 지능의 신체적 몸이 인지에 어떤 역할을 하는지 분석하기 위해.
• 의미적 외부성과 의미적 효율성 개념을 적용하여 정신적 내용이 환경적 및 신체적 맥락에 의존함을 주장하기 위해.
• 다른 종의 신경 회로 사례 연구를 분석하여 동일한 메커니즘이 상황적 및 행동적 맥락에 따라 다른 의미를 가질 수 있음을 보여주기 위해.
• 딥 뉘런 웹의 수동적 데이터 기반 학습의 한계를 평가하여, 진실성과 개념적 기반의 측면에서 문제점을 분석하기 위해.
• 빠른 사고와 느린 사고를 모방하기 위해 신경망에 이중 시스템 프레임워크(시스템 1 및 시스템 2)를 제안하며, 시스템 2는 모듈화되고 목표 중심의 추론을 가능하게 한다.
• 다양한 시간 척도의 학습과 다중 모odal 데이터 통합을 통해 몸이 있는 에이전트의 발달 학습을 더 잘 모방하기 위해 제안한다.

실험 결과

연구 질문

• RQ1 지능적 시스템이 인간 수준의 이해와 추론을 달성하기 위해 얼마나 신체적 몸과 환경에 둘러싸여 있어야 하는가?
• RQ2 정신 상태의 의미가 환경적 및 신체적 맥락에 어떻게 의존하는가? 이는 정신 기능을 모델링하는 데 어떤 함의를 갖는가?
• RQ3 왜 대규모 언어 모델은 진실성을 우선하지 못하는가? 신체적 몸과 환경에 둘러싸임은 그들의 추론과 진실 민감도를 어떻게 향상시킬 수 있는가?
• RQ4 물리적 환경으로부터의 능동적 탐색, 조작, 피드백 없이도 인공지능 시스템이 강력한 일반화를 달성할 수 있는가?
• RQ5 다양한 시간 척도의 학습과 감각운동 상호작용을 포함한 발달 과정이 기반 지능의 기원에 어떤 역할을 하는가?

주요 결과

• 의미적 효율성—정신적 내용이 행동에 실질적 영향을 미치는 개념—은 인지 시스템이 신체적 몸과 환경에 둘러싸여 있어야 가능하며, 의미는 내부 표현에 내재된 것이 아니라 환경적 맥락에 의존하기 때문이다.
• 동일한 신경 메커니즘은 에이전트의 환경과 행동 역할에 따라 다른 의미를 낳을 수 있다(예: '파리 감지됨' 대비 '개미 감지됨'), 이는 의미가 알고리즘적으로 결정되지 않음을 보여준다.
• 현재의 인공지능 시스템, 특히 대규모 언어 모델은 진실성보다 인간처럼 보이는 텍스트 생성을 우선시하며, 모델링하는 세계에 대한 이해가 부족해 창작하거나 스스로 모순되는 경향이 있다.
• 인공지능 시스템에서 신체적 경험과 실질적 목표의 부재는 언어적 유창성과 개념적 이해 사이의 괴리를 초래하며, 이는 신뢰할 수 있는 일반화를 약화시킨다.
• 발달, 사건 기반, 실시간 과정을 포함한 다양한 시간 척도의 학습은 적응적이고 목표 중심의 행동을 가능하게 하며, 이는 현재의 딥 러닝 시스템에서 여전히 개발이 부족한 분야이다.
• 기초 모델은 신체적 상호작용에 기반하지 않으면 공중에 떠 있는 성루에 불과하며, 지식이 추상적이며 감각운동 경험에서 분리되어 있어 세계에 대해 의미 있게 이해하거나 추론하는 능력이 제한된다.