[论文解读] Does AlphaGo actually play Go? Concerning the State Space of Artificial Intelligence

Holger Lyre|arXiv (Cornell University)|Dec 13, 2019

Computability, Logic, AI Algorithms参考文献 29被引用 15

一句话总结

本文提出了一种人工智能状态空间的概念性框架，识别出三个核心维度：自我学习（self-x 特性）、跨问题类型的泛化能力，以及语义基础。通过分析基础哲学论点——如中文房间思想实验和符号接地问题——本文认为，尽管 AlphaGo 表现极为出色，但由于缺乏语义理解，当前的 AI 系统实际上并未真正‘下围棋’。

ABSTRACT

The overarching goal of this paper is to develop a general model of the state space of AI. Given the breathtaking progress in AI research and technologies in recent years, such conceptual work is of substantial theoretical interest. The present AI hype is mainly driven by the triumph of deep learning neural networks. As the distinguishing feature of such networks is the ability to self-learn, self-learning is identified as one important dimension of the AI state space. Another main dimension lies in the possibility to go over from specific to more general types of problems. The third main dimension is provided by semantic grounding. Since this is a philosophically complex and controversial dimension, a larger part of the paper is devoted to it. We take a fresh look at known foundational arguments in the philosophy of mind and cognition that are gaining new relevance in view of the recent AI developments including the blockhead objection, the Turing test, the symbol grounding problem, the Chinese room argument, and general use-theoretic considerations of meaning. Finally, the AI state space, spanned by the main dimensions generalization, grounding and "selfx-ness", possessing self-x properties such as self-learning, is outlined.

研究动机与目标

• 为应对深度学习和人工智能技术的快速发展，提出人工智能状态空间的概念性模型。
• 识别并分析人工智能的三个关键维度：自我学习（self-x 特性）、向更广泛问题类型的泛化能力，以及语义基础。
• 在现代人工智能发展的背景下，重新审视经典哲学论点，特别是关于意义与理解的问题。
• 评估像 AlphaGo 这类系统是否能在有意义的认知意义上‘下围棋’，而不仅仅是算法层面的运行。

提出的方法

• 提出一个人工智能的三维状态空间模型，三个坐标轴分别代表自我学习、泛化能力与语义基础。
• 运用对中文房间思想实验、Blockhead 反驳和符号接地问题的哲学分析，探讨语义基础问题。
• 应用使用理论和功能主义视角来评估人工智能系统是否可能具备真正的理解能力。
• 将 AlphaGo 的行为与人类下围棋的方式进行比较，强调其尽管表现优异，却缺乏语义基础。
• 整合认知科学与心灵哲学的洞见，以评估当前深度学习系统的局限性。
• 构建一个概念性框架，使人工智能系统不仅根据性能，还根据其理解能力与泛化能力进行评估。

实验结果

研究问题

• RQ1 定义人工智能状态空间的基本维度是什么？
• RQ2 深度学习网络中的自我学习在多大程度上可被视为真正的‘self-x’能力？
• RQ3 跨问题类型的泛化能力如何将高级人工智能与狭义、任务特定的系统区分开来？
• RQ4 人工系统能否实现语义基础？哪些哲学论点支持或挑战这一可能性？
• RQ5 AlphaGo 在围棋上的表现是否构成真正的‘下棋’行为，还是仅仅是没有理解的复杂模式匹配？

主要发现

• 人工智能的状态空间最好通过三个维度来概念化：自我学习、泛化能力与语义基础。
• 尽管 AlphaGo 表现优异，但其缺乏语义基础，意味着它在认知或意向意义上并不真正‘理解’围棋游戏。
• 诸如中文房间思想实验和符号接地问题等哲学反对意见依然具有相关性，并对当前人工智能系统中真正理解能力的主张构成挑战。
• 深度学习网络中的自我学习并不等同于真正的自我意识或自我理解，这凸显了‘self-x’维度中的关键差异。
• 在不同问题类型之间的泛化能力，是狭义人工智能与具备更广泛认知能力系统之间的关键区分特征。
• 当前的人工智能系统，包括 AlphaGo，仍局限于一个缺乏人类认知中语义与意向维度的狭窄状态空间。