[论文解读] Innateness, AlphaZero, and Artificial Intelligence

Gary Marcus|arXiv (Cornell University)|Jan 17, 2018

Reinforcement Learning in Robotics参考文献 32被引用 98

一句话总结

本文批评 AlphaGo/AlphaZero 在从零开始学习中达到超人性能的主张，并主张在人工智能中应更大程度地考虑先天性因素，概述可能的先天结构概念。

ABSTRACT

The concept of innateness is rarely discussed in the context of artificial intelligence. When it is discussed, or hinted at, it is often the context of trying to reduce the amount of innate machinery in a given system. In this paper, I consider as a test case a recent series of papers by Silver et al (Silver et al., 2017a) on AlphaGo and its successors that have been presented as an argument that a "even in the most challenging of domains: it is possible to train to superhuman level, without human examples or guidance", "starting tabula rasa." I argue that these claims are overstated, for multiple reasons. I close by arguing that artificial intelligence needs greater attention to innateness, and I point to some proposals about what that innateness might look like.

研究动机与目标

• 评估在 AI 研究中如何讨论先天性，以及为何对通用智能重要。
• 评估 Silver 等人关于 AlphaGo/AlphaZero 的无需人类数据或指导即可学习的主张。
• 主张在 AI 设计中引入先天结构或先验，并概述潜在做法。

提出的方法

• 对 AlphaGo/AlphaZero 文献及“从零学习”概念的批判性分析。
• 对当前系统在实现稳健通用智能方面的局限性的逻辑评估。
• 提出在 AI 系统中“先天性”可能的样貌的提议。

实验结果

研究问题

• RQ1 AlphaZero 风格的系统是否真的在 Silver 等人所声称的最强意义上从从零起点学习？
• RQ2 依赖最少或无人工指导的当前深度强化学习方法存在哪些局限？
• RQ3 如何定义并将先天先验或结构引入 AI 以提升学习与泛化？
• RQ4 将先天性引入人工智能的具体提案有哪些？

主要发现

• 作者认为 AlphaGo/AlphaZero 在没有人类示例或指导的情况下达到超人水平的主张被高估。
• 需要在 AI 研究与开发中更加关注先天性。
• 作者概述了关于先天性在人工系统中可能的样貌的提案。