[논문 리뷰] Does AlphaGo actually play Go? Concerning the State Space of Artificial Intelligence

Holger Lyre|arXiv (Cornell University)|2019. 12. 13.

Computability, Logic, AI Algorithms참고 문헌 29인용 수 15

한 줄 요약

이 논문은 인공지능의 상태공간에 대한 개념적 프레임워크를 제안하며, 세 가지 핵심 차원을 규명한다: 자기학습(self-x 성질), 문제 유형 간 일반화, 의미 기반(semantic grounding). 기초적인 철학적 논거—예를 들어 중국어 방, 기호 기반 문제—를 분석함으로써, 알파고와 같은 현재의 AI 시스템은 뛰어난 성능에도 불구하고 의미적 이해가 부족하여 진정으로 '오목'을 둘 수 없다고 주장한다.

ABSTRACT

The overarching goal of this paper is to develop a general model of the state space of AI. Given the breathtaking progress in AI research and technologies in recent years, such conceptual work is of substantial theoretical interest. The present AI hype is mainly driven by the triumph of deep learning neural networks. As the distinguishing feature of such networks is the ability to self-learn, self-learning is identified as one important dimension of the AI state space. Another main dimension lies in the possibility to go over from specific to more general types of problems. The third main dimension is provided by semantic grounding. Since this is a philosophically complex and controversial dimension, a larger part of the paper is devoted to it. We take a fresh look at known foundational arguments in the philosophy of mind and cognition that are gaining new relevance in view of the recent AI developments including the blockhead objection, the Turing test, the symbol grounding problem, the Chinese room argument, and general use-theoretic considerations of meaning. Finally, the AI state space, spanned by the main dimensions generalization, grounding and "selfx-ness", possessing self-x properties such as self-learning, is outlined.

연구 동기 및 목표

• 딥 러닝 및 AI 기술의 급속한 발전에 대응하여 인공지능의 상태공간에 대한 개념적 모델을 개발하기 위해.
• 자기학습(self-x 성질), 더 넓은 문제 유형으로의 일반화, 의미 기반이라는 세 가지 핵심 차원을 식별하고 분석하기 위해.
• 의미와 이해와 관련하여 현대 AI 발전에 비추어 고전적 철학적 논거를 재평가하기 위해.
• 알파고와 같은 시스템이 알고리즘적으로가 아니라 의미적·인지적 차원에서 진정으로 '오목'을 둔다고 볼 수 있는지 평가하기 위해.

제안 방법

• 자기학습, 일반화, 의미 기반을 축으로 하는 삼차원 상태공간 모델을 제안한다.
• 중국어 방 논거, 블록헤드 반론, 기호 기반 문제를 철학적으로 분석하여 의미 기반을 검토한다.
• 의미에 대한 용도 이론적 및 기능주의적 관점을 적용하여 AI 시스템이 진정한 이해를 가질 수 있는지 평가한다.
• 알파고의 행동을 인간의 오목 놀이와 비교하며, 뛰어난 성능에도 불구하고 의미 기반의 부재를 강조한다.
• 인지과학과 마음 철학의 통찰을 통합하여 현재의 딥 러닝 시스템의 한계를 평가한다.
• 성능 외에도 이해력과 일반화 능력을 기반으로 AI 시스템을 평가하는 개념적 프레임워크를 구축한다.

실험 결과

연구 질문

• RQ1 인공지능의 상태공간을 정의하는 데 핵심이 되는 기본 차원은 무엇인가?
• RQ2 딥 러닝 네트워크에서의 자기학습은 얼마나 진정된 '자기-x' 능력으로 간주될 수 있는가?
• RQ3 문제 유형 간의 일반화가 고도로 발전한 AI와 좁은 영역 전용 시스템을 어떻게 구분하는가?
• RQ4 인공 시스템에서 의미 기반을 달성할 수 있는가? 그 가능성에 대한 철학적 논거는 무엇인가?
• RQ5 알파고의 오목에서의 성능이 진정으로 '게임을 하는 것'을 의미하는가, 아니면 이해 없이 단순한 패턴 매칭에 불과한가?

주요 결과

• 인공지능의 상태공간은 자기학습, 일반화, 의미 기반이라는 세 가지 차원으로 가장 잘 개념화된다.
• 알파고의 뛰어난 성능에도 불구하고 의미 기반의 부재로 인해, 인공지능은 오목을 인지적 또는 의도적 차원에서 이해하지 못한다.
• 중국어 방 논거나 기호 기반 문제와 같은 철학적 반론은 여전히 현재의 AI 시스템에서 진정한 이해가 가능하다는 주장을 도전하며 관련성이 있다.
• 딥 러닝 네트워크에서의 자기학습은 진정한 자각이나 자기 이해와 동일시될 수 없으며, 이는 '자기-x' 차원에서의 중요한 차이를 드러낸다.
• 문제 유형 간의 일반화 능력은 좁은 영역 AI와 더 넓은 인지 능력을 지닌 시스템을 구분하는 핵심 요소이다.
• 현재의 AI 시스템, 알파고를 포함하여, 인간의 인지의 의미적 및 의도적 차원을 지닌 상태공간 외부에 존재한다.