[论文解读] There is no Artificial General Intelligence

Jobst Landgrebe, Barry Smith|arXiv (Cornell University)|Jun 9, 2019

Topic Modeling参考文献 68被引用 4

一句话总结

本文主张人工通用智能（AGI）在数学上是不可能的，因为任何图灵机都无法完全掌握人类对话的复杂性，而这种复杂性涉及动态语境、意图、情感线索以及不断演变的对话前景。作者得出结论：由于流利且情境自适应的对话是AGI的必要条件，而这一目标无法由任何计算系统实现，因此AGI本身是不可实现的。

ABSTRACT

The goal of creating Artificial General Intelligence (AGI) -- or in other words of creating Turing machines (modern computers) that can behave in a way that mimics human intelligence -- has occupied AI researchers ever since the idea of AI was first proposed. One common theme in these discussions is the thesis that the ability of a machine to conduct convincing dialogues with human beings can serve as at least a sufficient criterion of AGI. We argue that this very ability should be accepted also as a necessary condition of AGI, and we provide a description of the nature of human dialogue in particular and of human language in general against this background. We then argue that it is for mathematical reasons impossible to program a machine in such a way that it could master human dialogue behaviour in its full generality. This is (1) because there are no traditional explicitly designed mathematical models that could be used as a starting point for creating such programs; and (2) because even the sorts of automated models generated by using machine learning, which have been used successfully in areas such as machine translation, cannot be extended to cope with human dialogue. If this is so, then we can conclude that a Turing machine also cannot possess AGI, because it fails to fulfil a necessary condition thereof. At the same time, however, we acknowledge the potential of Turing machines to master dialogue behaviour in highly restricted contexts, where what is called ``narrow'' AI can still be of considerable utility.

研究动机与目标

• 确立能够进行流利、情境自适应的人类对话的能力是AGI的必要条件。
• 分析人类对话的结构性和认知复杂性，包括语境转换、情感线索以及语用解释。
• 从数学上证明，传统编程或机器学习模型均无法实现对人类对话的全面掌握。
• 论证由于对话掌握是AGI的必要条件，而这一目标在机器中无法实现，因此AGI本身是不可能的。
• 区分窄域AI在受限领域中的潜力与机器实现通用智能的根本不可能性。

提出的方法

• 分析人类对话作为一种动态、情境敏感且情感丰富的互动，涉及不断演变的对话前景和相互适应。
• 识别对话中的关键现象，如轮换中断、开头重写、打断以及情感调节，作为机器建模的核心挑战。
• 考察意图、指示词和隐含意义在对话理解中的作用，这些依赖于共享知识和传记性语境。
• 论证传统数学模型无法作为建模此类对话复杂性的基础。
• 证明即使现代机器学习模型——在翻译等狭窄任务中表现成功——也无法扩展以处理人类对话的全部普遍性。
• 使用对话维持的稳态模型表明，人类对话的韧性依赖于非计算性的认知与情感协调。

实验结果

研究问题

• RQ1 能够进行流利、情境自适应对话的能力是否是人工通用智能的必要条件？
• RQ2 传统或基于机器学习的模型能否复制人类对话的全部普遍性，包括情感和语境的转变？
• RQ3 哪些数学或结构约束阻止图灵机全面掌握人类对话的复杂性？
• RQ4 尽管图灵测试的核心理念——以对话作为智能的衡量标准——具有理论吸引力，为何它不足以作为AGI的标准？
• RQ5 窄域AI系统在受限语境中模拟对话的能力在多大程度上可行，为何这仍不足以达到AGI？

主要发现

• 能够进行流利、情境自适应对话的能力是AGI的必要条件，因为对话构成了人类交流、文化与实践智能的基础。
• 人类对话涉及在情感、意图、语境和结构等多个维度上的持续、动态适应，使得任何计算系统都无法处理其复杂性。
• 不存在可用于编程机器以全面掌握人类对话普遍性的传统数学模型。
• 即使先进的机器学习模型在翻译等狭窄领域中表现成功，也无法扩展以处理开放性人类对话的全部复杂性。
• 对话前景的动态演化，包括对过去话语的重新解释和实时语境变化，无法被当前计算架构所捕捉。
• 尽管窄域AI可在受限语境中模拟对话，但因缺乏必要条件——即全面的对话掌握能力——AGI在原则上是不可能实现的。