[论文解读] "Weak AI" is Likely to Never Become "Strong AI", So What is its Greatest Value for us?

Bin Liu|arXiv (Cornell University)|Mar 29, 2021

Explainable Artificial Intelligence (XAI)参考文献 21被引用 9

一句话总结

本文认为，'弱人工智能'——即在特定任务上表现出色但缺乏真正理解能力的深度学习系统——可能永远无法演变为'强人工智能'（人工通用智能），但其最大价值在于能够实现从大数据中可扩展、数据驱动的模式提取。通过将弱人工智能视为一种强大的经验工具而非通向人类认知水平的路径，本文重新定义了其角色，强调其在现实世界大数据应用中的不可或缺性。

ABSTRACT

AI has surpassed humans across a variety of tasks such as image classification, playing games (e.g., go, "Starcraft" and poker), and protein structure prediction. However, at the same time, AI is also bearing serious controversies. Many researchers argue that little substantial progress has been made for AI in recent decades. In this paper, the author (1) explains why controversies about AI exist; (2) discriminates two paradigms of AI research, termed "weak AI" and "strong AI" (a.k.a. artificial general intelligence); (3) clarifies how to judge which paradigm a research work should be classified into; (4) discusses what is the greatest value of "weak AI" if it has no chance to develop into "strong AI".

研究动机与目标

• 澄清公众和学术话语中常被混淆的'弱人工智能'（任务特定系统）与'强人工智能'（具备人类水平理解能力的系统）之间的根本区别。
• 通过展示'弱人工智能'的进展是真实且实质性的，而'强人工智能'仍基本未实现，来回应人工智能领域长期存在的争议。
• 主张'弱人工智能'的主要价值不在于获得意识或人类意义上的智能，而在于实现可扩展、高效且准确的数据处理。
• 基于是否推进对人类智能机制的理解，提出一个清晰的分类标准，用于判断人工智能研究属于'弱'或'强'。
• 倡导未来人工智能讨论中使用更清晰的术语，以避免混淆，并促进研究人员与公众之间更专注、更具建设性的对话。

提出的方法

• 以约翰·塞尔的中文房间思想实验为概念框架，区分'弱人工智能'与'强人工智能'，其中'弱人工智能'仅模拟智能行为而无理解能力。
• 提出一种分类标准：若某项研究工作为人类智能机制提供了新见解，则属于'强人工智能'范式；否则即为'弱人工智能'。
• 分析近期人工智能突破（如AlphaGo、GPT-3）作为'弱人工智能'的案例，表明其通过数据驱动的模式学习实现超人类表现，而非基于因果推理或理解。
• 强调经验性、数据驱动的方法——尤其是深度学习和强化学习——是推动'弱人工智能'发展的核心动力，与理论驱动或哲学动机的研究方法形成对比。
• 引用顶尖人工智能思想家（佩尔、马库斯、比绍普）的批评，说明当前'弱人工智能'的局限性，以及实现'强人工智能'所面临的持续挑战。
• 论证由于缺乏可靠的'强人工智能'评估方法，以及哥德尔不完备性定理等哲学障碍，进一步阻碍了进展，强化了'强人工智能'在当前范式下可能不可达的观点。

实验结果

研究问题

• RQ1 尽管近年来人工智能取得显著进展，为何关于人工智能的争议仍持续存在？
• RQ2 在概念和实践层面，'弱人工智能'与'强人工智能'有何本质区别？
• RQ3 '弱人工智能'能否最终演变为'强人工智能'？实现这种转变在理论和实践上面临哪些障碍？
• RQ4 如果'弱人工智能'无法实现人类水平的理解或通用智能，其最大的实际价值是什么？
• RQ5 研究人员和公众应如何分类和讨论人工智能工作，以避免混淆并促进更富有成效的对话？

主要发现

• '弱人工智能'指那些模拟智能行为但不具有理解或意识的系统，例如在图像识别或游戏对弈中表现出色的深度学习模型。
• 尽管广受赞誉，'弱人工智能'并未推动'强人工智能'领域的发展——后者旨在复制人类水平的认知能力——因为它缺乏对人类智能机制的洞察。
• 近期突破如AlphaGo和GPT-3是数据驱动、经验性方法的产物，而非理论理解的结果，表明'弱人工智能'可在无理解的前提下实现超人类表现。
• '弱人工智能'的最大价值在于其能够高效且可扩展地提炼、表示和利用大数据中的复杂模式，使其在现实世界数据密集型应用中不可或缺。
• 缺乏可靠的'强人工智能'评估方法，以及哥德尔不完备性定理等哲学障碍，表明'强人工智能'可能在当前方法下仍无法实现。
• 未来'弱人工智能'的进展可能来自整合自动机器学习（autoML）、动态组合策略和云基础设施等技术，进一步提升自动化与鲁棒性，但不会实现真正的理解。