[论文解读] Embodied, Situated, and Grounded Intelligence: Implications for AI

Tyler Millhouse, Melanie E. Moses+1 more|arXiv (Cornell University)|Oct 24, 2022

Ethics and Social Impacts of AI被引用 5

一句话总结

本研讨会报告主张，具身性、情境性和基础性智能对于实现稳健的、类人水平的人工智能至关重要。结合哲学、认知科学和人工智能的洞见，本文认为认知无法脱离身体具身性和环境互动而存在，当前的人工智能系统——尤其是大型语言模型——由于缺乏具身经验与情境化学习，无法实现真正的理解。

ABSTRACT

In April of 2022, the Santa Fe Institute hosted a workshop on embodied, situated, and grounded intelligence as part of the Institute's Foundations of Intelligence project. The workshop brought together computer scientists, psychologists, philosophers, social scientists, and others to discuss the science of embodiment and related issues in human intelligence, and its implications for building robust, human-level AI. In this report, we summarize each of the talks and the subsequent discussions. We also draw out a number of key themes and identify important frontiers for future research.

研究动机与目标

• 探讨具身性、情境性和基础性在人类智能中的作用及其对人工智能的启示。
• 挑战人工智能系统可在缺乏身体具身性或环境互动的情况下实现稳健、泛化智能的假设。
• 探索认知科学与发展心理学的洞见如何指导更具类人特征的人工智系设计。
• 审视当前大型神经网络模型的局限性，特别是其在语义有效性与对真理敏感性推理方面的不足。
• 识别发展能够以类人发展与认知过程方式学习、推理和理解的人工智系的关键研究前沿。

提出的方法

• 综合哲学、心理学、神经科学与人工智能的跨学科视角，分析具身性在认知中的作用。
• 应用语义外在主义与语义有效性概念，论证心理内容依赖于环境与身体背景。
• 分析跨物种神经回路的案例研究，表明相同机制在不同情境与行为背景下可产生不同认知意义。
• 评估深度神经网络中被动、数据驱动学习的局限性，特别是在真实性与概念基础性方面的不足。
• 提出神经网络中的双系统框架（系统1与系统2），以模拟快速与慢速思维，其中系统2支持模块化、目标导向的推理。
• 倡导多时间尺度学习与多模态数据融合，以更好地模拟具身智能体的发展性学习。

实验结果

研究问题

• RQ1 智能系统在多大程度上必须具备身体具身性与情境性，才能实现类人水平的理解与推理？
• RQ2 心理状态的意义在多大程度上依赖于环境与身体背景？这对认知建模有何启示？
• RQ3 为何大型语言模型无法优先考虑真实性？具身性与情境性如何改善其推理与对真理的敏感性？
• RQ4 人工智能系统是否可能在缺乏对物理环境的主动探索、操作与反馈的情况下实现稳健泛化？
• RQ5 发展性过程，包括多时间尺度学习与感官运动交互，在具身认知形成中扮演何种角色？

主要发现

• 语义有效性——即心理内容能因果性地影响行为——要求认知系统具备身体具身性与情境性，因为意义并非内在于内部表征，而是依赖于环境背景。
• 相同的神经机制可因智能体的环境与行为角色不同而产生不同的认知意义（例如，'发现苍蝇'与'发现蚂蚁'），表明意义并非由算法决定。
• 当前的人工智系，尤其是大型语言模型，优先考虑生成类人语言，而非真实性，往往因缺乏对所建模世界的实际关联而虚构或自相矛盾。
• 人工智能系统缺乏具身经验与实际目标，导致语言流利性与概念理解之间脱节，从而削弱了可靠泛化能力。
• 多时间尺度学习——涵盖发展性、情景性与实时过程——对于实现适应性、目标导向行为至关重要，而当前深度学习系统在该方面仍发展不足。
• 若缺乏与物理交互的基础，基础模型可能沦为'空中楼阁'，因为其知识仍抽象且脱离感官运动经验，限制了其对世界进行有意义理解或推理的能力。