[论文解读] Anti-efficient encoding in emergent communication

Rahma Chaabouni, Eugene Kharitonov+2 more|arXiv (Cornell University)|May 29, 2019

Language and cultural evolution参考文献 38被引用 68

一句话总结

这篇论文显示两个神经代理在理论上发展出一种反效率编码，其中更频繁的输入映射到更长的消息，与 Zipf’s Law of Abbreviation 相悖，除非对说话者加入长度惩罚。

ABSTRACT

Despite renewed interest in emergent language simulations with neural networks, little is known about the basic properties of the induced code, and how they compare to human language. One fundamental characteristic of the latter, known as Zipf's Law of Abbreviation (ZLA), is that more frequent words are efficiently associated to shorter strings. We study whether the same pattern emerges when two neural networks, a "speaker" and a "listener", are trained to play a signaling game. Surprisingly, we find that networks develop an \emph{anti-efficient} encoding scheme, in which the most frequent inputs are associated to the longest messages, and messages in general are skewed towards the maximum length threshold. This anti-efficient code appears easier to discriminate for the listener, and, unlike in human communication, the speaker does not impose a contrasting least-effort pressure towards brevity. Indeed, when the cost function includes a penalty for longer messages, the resulting message distribution starts respecting ZLA. Our analysis stresses the importance of studying the basic features of emergent communication in a highly controlled setup, to ensure the latter will not strand too far from human language. Moreover, we present a concrete illustration of how different functional pressures can lead to successful communication codes that lack basic properties of human language, thus highlighting the role such pressures play in the latter.

研究动机与目标

• 在幂律输入分布下，研究神经代理中的显现通信编码是否遵循 Zipf’s Law of Abbreviation (ZLA)。
• 评估说话者/听者压力如何塑造一个简单信号游戏中的消息长度分布。
• 分析加入长度惩罚如何影响显现编码，以及它是否与人类语言的效率一致。
• 检查显现编码是否类似于高效参考（最优码）或 monkey-typing 分布，并与自然语言进行比较。

提出的方法

• 使用从幂律分布抽取的 1000 种输入类型搭建一个 Lewis 信号游戏。
• 使用一个说话者和一个听者，两者都是单层 LSTM，用于在定义的 maxlen 下对以 eos 结尾的消息进行编码/解码。
• 通过类似 REINFORCE 的梯度、带有滑动基线和熵正则化来优化离散消息通道。
• 将显现编码与参考分布比较：Optimal Code (OC)、Monkey Typing (MT) 以及在不同字母表大小 a 和 maxlen 下的自然语言。
• 进行有/无长度惩罚的实验，以测试其在促使 ZLA 方面的效果。
• 在训练后通过对全部输入的准确性评估成功，并分析消息长度分布。

实验结果

研究问题

• RQ1 在幂律输入分布下，显现编码是否出现 Zipf’s Law of Abbreviation 或反效率模式？
• RQ2 说话者和听者动态中的哪些偏差导致观测到的编码模式？
• RQ3 对较长消息施加惩罚是否能恢复与人类语言（ZLA）相似的高效编码？
• RQ4 显现消息属性（单字分布/双字分布）与自然语言及控制模型相比有何异同？

主要发现

• 显现通信产生了反效率编码：更频繁输入被映射到更长的消息，大多数消息接近 maxlen。
• 未训练的说话者表现得像随机/均匀生成器，表明 listener 驱动的效应塑造了反效率模式。
• 未训练的听者显示显现消息比其他编码更具可区分性，表明听者偏向较长消息有助于区分。
• 对说话者施加长度惩罚会产生类似 ZLA 的分布，显示功能性压力可以引导向高效编码。
• 符号级分析揭示显现消息发展出偏斜的单字分布和强烈的双字重复，暗示除了随机混合外的音位结构约束。
• 多配置实验证实该反效率模式在不同设定下具有鲁棒性，在没有压力的情况下并非常见于人类语言。