[论文解读] Emergent Communication of Generalizations

Jesse Mu, Noah D. Goodman|arXiv (Cornell University)|Jun 4, 2021

Multimodal Machine Learning Applications参考文献 28被引用 8

一句话总结

本文提出了基于集合的通信游戏（setref）和基于概念的通信游戏（concept games），将传统的Lewis风格参照游戏扩展至集合对象的泛化，以促使人工智能代理学习系统性、组合性且可解释的语言。该方法提升了语言的系统性与可解释性，并引入ACRe——一种组合重构方法，用于识别涌现语言中的逻辑运算，揭示了超越简单参照的结构化、可学习的组合性。

ABSTRACT

To build agents that can collaborate effectively with others, recent research has trained artificial agents to communicate with each other in Lewis-style referential games. However, this often leads to successful but uninterpretable communication. We argue that this is due to the game objective: communicating about a single object in a shared visual context is prone to overfitting and does not encourage language useful beyond concrete reference. In contrast, human language conveys a rich variety of abstract ideas. To promote such skills, we propose games that require communicating generalizations over sets of objects representing abstract visual concepts, optionally with separate contexts for each agent. We find that these games greatly improve systematicity and interpretability of the learned languages, according to several metrics in the literature. Finally, we propose a method for identifying logical operations embedded in the emergent languages by learning an approximate compositional reconstruction of the language.

研究动机与目标

• 解决通过标准参照游戏训练的涌现通信语言中缺乏系统性与可解释性的问题。
• 探究是否通过对象集合的泛化（而非单个对象参照）能促进抽象、组合性语言的涌现。
• 开发一种识别并分析嵌入在涌现人工语言中的逻辑运算的方法。
• 评估更丰富、组合性更大的概念空间是否能促使人工代理表现出更类人的语言行为。
• 提供一种工具（ACRe），通过近似其组合结构来解释涌现语言。

提出的方法

• 将Lewis风格的信号游戏扩展至集合参照（setref）游戏，其中双方看到相同的输入集合，但单个概念对应多个目标。
• 引入概念游戏，其中教师与学生观察同一概念的不同实例，要求在未见样本间实现泛化。
• 使用基于CNN的教师模型编码输入并生成消息，通过注意力池化生成目标与干扰项的原型嵌入。
• 采用学生模型，基于消息与输入预测目标归属，使用序列到序列架构与交叉熵损失。
• 提出ACRe（近似组合重构），一种序列到序列模型，通过原始概念输入学习重构消息，识别其底层逻辑运算。
• 使用TRE、ACRe与组合准确率等指标评估语言系统性，比较参照、setref与概念游戏设置下的性能。

实验结果

研究问题

• RQ1 要求代理在对象集合上进行泛化，是否相比单对象参照游戏，能产生更具系统性与可解释性的涌现语言？
• RQ2 在概念游戏中——代理观察同一概念的不同实例——是否能促进抽象、组合性语言的涌现？
• RQ3 涌现人工语言中嵌入了哪些类型的逻辑运算（如合取、析取）？能否被识别与重构？
• RQ4 不同游戏设计下，涌现语言的组合结构有何差异，特别是在泛化与可解释性方面？
• RQ5 ACRe是否能可靠地近似涌现语言中的组合运算，即使这些语言并非完全组合性？

主要发现

• 与标准参照游戏相比，setref与concept游戏在多种组合性度量下显著提升了涌现语言的系统性与可解释性。
• ACRe方法成功识别并重构了涌现语言中的合取、析取等逻辑运算，表明这些语言编码了结构化、组合性的语义。
• 在概念游戏中学习的语言展现出更高的组合准确率与对未见组合的更好泛化能力，优于参照游戏中的语言。
• 在概念游戏中使用共享或非共享输入，促使代理形成更抽象、类别级的表征，而非依赖偶然的视觉特征。
• ACRe优于基线度量（如TRE），能对涌现语言中的组合结构提供更细致、更具可解释性的分析。
• 该方法揭示，尽管涌现语言并非完全组合性，但仍包含可学习、可分析的句法模式，对应于语义运算。