[논문 리뷰] Innateness, AlphaZero, and Artificial Intelligence

Gary Marcus|arXiv (Cornell University)|2018. 01. 17.

Reinforcement Learning in Robotics참고 문헌 32인용 수 98

한 줄 요약

본 논문은 AlphaGo/AlphaZero가 tabula rasa 학습으로 초인적 성능을 달성했다는 주장에 비판적이며, AI에서 선천성(innateness)을 더 많이 고려해야 한다고 제시하고, 선천적 구조의 개념을 잠정적으로 개략한다.

ABSTRACT

The concept of innateness is rarely discussed in the context of artificial intelligence. When it is discussed, or hinted at, it is often the context of trying to reduce the amount of innate machinery in a given system. In this paper, I consider as a test case a recent series of papers by Silver et al (Silver et al., 2017a) on AlphaGo and its successors that have been presented as an argument that a "even in the most challenging of domains: it is possible to train to superhuman level, without human examples or guidance", "starting tabula rasa." I argue that these claims are overstated, for multiple reasons. I close by arguing that artificial intelligence needs greater attention to innateness, and I point to some proposals about what that innateness might look like.

연구 동기 및 목표

• AI 연구에서 선천성(innateness)이 어떻게 논의되는지 평가하고, 일반 지능에 왜 중요한지 설명한다.
• Silver 등과 AlphaGo/AlphaZero가 인간 데이터나 안내 없이 학습한다는 주장들을 평가한다.
• AI 설계에 선천적 구조나 사전(priors)을 도입하는 것을 주장하고, 잠재적 접근 방법을 제시한다.

제안 방법

• AlphaGo/AlphaZero 문헌과 tabula rasa 학습 개념에 대한 비판적 분석.
• 강건한 일반 지능 달성에 있어 현 시스템의 한계에 대한 논리적 평가.
• AI 시스템에서 선천성이 어떤 모습으로 보일 수 있는지 개략하는 제안들.

실험 결과

연구 질문

• RQ1 Silver 등이 주장한 가장 강력한 의미에서 AlphaZero 유사 시스템이 tabula rasa 시작점에서 실제로 학습하는가?
• RQ2 최소한의 인간 지시나 전혀 없는 인간 지도의 의존에 led 현재의 심층 강화학습 접근법의 한계는 무엇인가?
• RQ3 학습 및 일반화 향상을 위해 선천적 사전 지식(priors)이나 구조를 어떻게 정의하고 AI에 통합할 수 있을까?
• RQ4 인공지능에 선천성을 도입하기 위한 구체적 제안은 무엇이 있는가?

주요 결과

• 저자에 따르면 AlphaGo/AlphaZero가 인간의 예시나 지도 없이 초인적 성능에 도달한다는 주장들은 과장되어 있다.
• AI 연구 및 개발에서 선천성에 대한 더 큰 주의가 필요하다.
• 저자는 인공 시스템에서 선천성이 어떤 모습일 수 있는지에 대한 제안을 개략한다.