[论文解读] Learning to communicate about shared procedural abstractions

William P. McCarthy, Robert D. Hawkins+3 more|arXiv (Cornell University)|Jun 30, 2021

Speech and dialogue systems参考文献 17被引用 8

一句话总结

本文研究人类在物理组装任务中通过自然语言协作发展共享程序抽象的过程，表明重复互动促使沟通日益简洁、抽象。通过将贝叶斯程序学习与概率通信模型结合，作者证明了智能体在通信成本与信息量之间取得平衡，自发生成基于任务层级结构的高效、组合式抽象。

ABSTRACT

Many real-world tasks require agents to coordinate their behavior to achieve shared goals. Successful collaboration requires not only adopting the same communicative conventions, but also grounding these conventions in the same task-appropriate conceptual abstractions. We investigate how humans use natural language to collaboratively solve physical assembly problems more effectively over time. Human participants were paired up in an online environment to reconstruct scenes containing two block towers. One participant could see the target towers, and sent assembly instructions for the other participant to reconstruct. Participants provided increasingly concise instructions across repeated attempts on each pair of towers, using higher-level referring expressions that captured each scene's hierarchical structure. To explain these findings, we extend recent probabilistic models of ad-hoc convention formation with an explicit perceptual learning mechanism. These results shed light on the inductive biases that enable intelligent agents to coordinate upon shared procedural abstractions.

研究动机与目标

• 理解人类在协作性物理任务中如何协调共享程序抽象。
• 研究自然语言沟通如何在重复互动中演变为更抽象、高效的表达方式。
• 开发一个整合程序抽象感知学习与临时约定形成的计算模型。
• 考察成本敏感性与信息量在抽象指代表达形成中的作用。
• 为人工智能智能体建模类人组合性与抽象性提供框架。

提出的方法

• 参与者被配对进行协作组装任务，其中一人（建筑师）逐步给出指令以重建积木塔。
• 每个场景包含两个分层结构的塔，每个塔由四个多米诺骨牌形状的积木组成，通过重复试验追踪沟通演变。
• 开发了一种计算模型，将贝叶斯程序学习与概率通信模型结合，以模拟抽象学习与约定形成。
• 该模型使用成本-信息量权衡（以β参数化）来决定何时使用抽象描述而非低层次描述。
• 通过从观察到的任务行为进行程序合成，学习模型中程序抽象的库，从而实现对复杂程序的组合式表示。
• 通过将模型预测与人类行为数据在指令长度、抽象层级和错误率方面的表现进行比较，对模型进行评估。

实验结果

研究问题

• RQ1 在程序任务中，人类合作者如何在重复互动中逐步发展出更抽象、更简洁的语言？
• RQ2 在协作环境中，共享程序抽象的出现背后涉及哪些认知与沟通机制？
• RQ3 通信成本与信息量之间的平衡如何塑造抽象指代表达的发展？
• RQ4 在多大程度上，一个整合了程序学习与沟通惯例的计算模型能够再现类人抽象与效率？
• RQ5 对分层任务结构的感知学习在为抽象语言约定提供基础方面起到什么作用？

主要发现

• 到第三次重复时，建筑师逐步用更高层次的抽象描述替代了对单个积木的指令，例如将整个塔称为“C形”或“U形”。
• 使用强成本敏感性（β > 0.5）的参与者采用了最简短的程序，即使错误率上升，表明效率与准确率之间存在权衡。
• 在无成本敏感性（β = 0）的情况下，参与者更倾向于使用更长、更不易混淆的积木级指令，表明成本驱动了抽象化。
• 模型中中间β值最能复现数据中观察到的人类沟通演变的定性模式。
• 该模型成功捕捉了反映任务分层结构的抽象表达的出现，例如指代完整塔而非单个积木。
• 结果表明，沟通与抽象学习相互促进，语言作为协调共享程序表征的机制。