[论文解读] Symbolic Behaviour in Artificial Intelligence

Adam Santoro, Andrew K. Lampinen+3 more|arXiv (Cornell University)|Feb 5, 2021

Language and cultural evolution参考文献 75被引用 4

一句话总结

本文提出，评估人工智能中的符号流利性不应仅依赖符号架构，而应通过根植于人类社会文化互动的行为标准。通过将符号意义视为约定俗成且依赖解释者的特性，作者引入了分级的行为度量标准——如构建新符号、适应惯例以及对意义进行内省——并认为当基于学习的智能体被置于丰富、互动性强且包含人类反馈的环境中时，能够实现类人的符号行为，通过可扩展的数据收集直接优化行为。

ABSTRACT

The ability to use symbols is the pinnacle of human intelligence, but has yet to be fully replicated in machines. Here we argue that the path towards symbolically fluent artificial intelligence (AI) begins with a reinterpretation of what symbols are, how they come to exist, and how a system behaves when it uses them. We begin by offering an interpretation of symbols as entities whose meaning is established by convention. But crucially, something is a symbol only for those who demonstrably and actively participate in this convention. We then outline how this interpretation thematically unifies the behavioural traits humans exhibit when they use symbols. This motivates our proposal that the field place a greater emphasis on symbolic behaviour rather than particular computational mechanisms inspired by more restrictive interpretations of symbols. Finally, we suggest that AI research explore social and cultural engagement as a tool to develop the cognitive machinery necessary for symbolic behaviour to emerge. This approach will allow for AI to interpret something as symbolic on its own rather than simply manipulate things that are only symbols to human onlookers, and thus will ultimately lead to AI with more human-like symbolic fluency.

研究动机与目标

• 将人工智能中的符号智能重新定义为一种根植于社会惯例的行为能力，而非结构性属性。
• 通过引入可分级、可度量的符号行为标准，解决二元符号使用评估的局限性。
• 论证机器的符号流利性并非源于符号架构本身，而是源于对人类社会文化互动的沉浸，这些互动要求对任意意义进行协调。
• 证明当代基于学习的AI可通过互动性强、反馈丰富且大规模的数据收集，被直接优化为表现出符号行为。

提出的方法

• 将符号定义为三元关系：载体、指称和解释者，其中意义源于约定俗成的共识。
• 将符号行为框架化为一组可度量的、分级的特征：对新惯例的接受度、新符号的构建、对现有符号的适应，以及对意义和推理的内省。
• 提出符号流利性并非仅由符号机制产生，而是源于智能体在需要对任意意义进行协调的社会文化环境中学习的结果。
• 倡导收集大规模、互动性强的人类行为数据集，并融入人类反馈，以训练智能体表现出符号行为。
• 使用现代学习算法，直接针对符号行为对智能体进行优化，将符号流利性视为行为目标而非结构属性。
• 拒绝将严格组合性或离散表征视为必要条件，强调即使连续或分布式表征，只要以约定方式处理，仍可发挥符号功能。

实验结果

研究问题

• RQ1 如何以分级而非二元的方式衡量人工智能中的符号行为，而非简单地判断其存在或缺失？
• RQ2 社会文化互动与人类反馈在促进基于学习的智能体实现符号流利性方面发挥何种作用？
• RQ3 是否可以通过行为目标直接优化符号行为，即使没有显式的符号架构？
• RQ4 系统性或组合泛化在符号行为中有多重要？其在实践中如何自然产生？
• RQ5 如果连续或分布式表征并非离散或局部化，它们如何仍能作为符号发挥作用？

主要发现

• 符号行为并非二元属性，而是一组分级的能力，包括构建新符号、适应惯例以及对意义进行内省。
• 人工智能中类人的符号流利性并非仅由符号机制保证，而是源于对社会文化互动的沉浸，这些互动要求对任意意义进行协调。
• 互动性强、反馈丰富且多样的体验——尤其是涉及人类协作的体验——能显著提升符号行为，其效果超越单纯规模的提升。
• 即使不强制实施严格的组合性或离散表征，丰富的互动体验仍可催生泛化能力和符号能力。
• 符号的三元结构——载体、指称和解释者——意味着符号意义本质上是主观且基于约定的，而非符号本身固有的。
• 通过可扩展数据和人类反馈，直接对基于学习的智能体进行符号行为优化，是一条切实可行且有效的通往符号流利性的路径。