[论文解读] Entropy Minimization In Emergent Languages

Eugene Kharitonov, Rahma Chaabouni+2 more|arXiv (Cornell University)|May 31, 2019

Language and cultural evolution参考文献 51被引用 4

一句话总结

本文通过在猜数字和图像分类任务中进行受控干预与消融实验，研究了涌现通信协议中的熵最小化现象。结果表明，当必要时，智能体仅在需要时才发展出低熵、高效的通信消息，且在完整输入可用时对消息的依赖极小，同时在不同网络架构、词汇表大小和基于序列的通信方式下均表现出强鲁棒性。

ABSTRACT

There is growing interest in studying the languages that emerge when neural agents are jointly trained to solve tasks requiring communication through a discrete channel. We investigate here the information-theoretic complexity of such languages, focusing on the basic two-agent, one-exchange setup. We find that, under common training procedures, the emergent languages are subject to an entropy minimization pressure that has also been detected in human language, whereby the mutual information between the communicating agent's inputs and the messages is minimized, within the range afforded by the need for successful communication. That is, emergent languages are (nearly) as simple as the task they are developed for allow them to be. This pressure is amplified as we increase communication channel discreteness. Further, we observe that stronger discrete-channel-driven entropy minimization leads to representations with increased robustness to overfitting and adversarial attacks. We conclude by discussing the implications of our findings for the study of natural and artificial communication systems.

研究动机与目标

• 探究接收方在涌现通信中对消息的依赖程度，特别是在猜数字任务中的表现。
• 评估在不同网络架构选择下（包括词汇表大小和接收方容量）熵最小化效应的鲁棒性。
• 评估当通信通过符号的可变长度序列（如GRU或Transformer）进行时，熵最小化是否依然成立。
• 分析训练过程中消息熵的变化动态，以理解协议演化过程及其与任务成功的关系。
• 确定熵最小化是否为一种稳定、普遍的现象，还是对超参数和模型容量敏感。

提出的方法

• 通过消息随机化测量接收方对消息的依赖程度：将随机化后的消息与接收方自身的未打乱输入一并输入，计算准确率下降程度。
• 采用干预评估方法以隔离消息依赖性，比较使用随机化消息与原始消息时的性能表现。
• 调整词汇表大小（猜数字任务中为256–4096；图像分类任务中为512–2048），以测试熵最小化效应的鲁棒性。
• 引入更深的接收方架构（两层400×400隐藏层），以检验模型容量是否影响熵最小化。
• 采用基于GRU的可变长度消息生成，使用eos标记终止序列，并使用随机计算图或Gumbel-Softmax进行训练。
• 在训练过程中追踪消息熵 $ H(m) $，将成功与失败的训练运行进行比较，以评估熵动态与理论边界的相对关系。

实验结果

研究问题

• RQ1 当接收方可访问完整输入时，其对消息的依赖程度如何？消息干预是否显著降低性能？
• RQ2 在不同词汇表大小和模型架构下，涌现通信中的熵最小化效应是否依然成立？
• RQ3 当通信通过可变长度符号序列而非固定长度消息进行时，熵最小化是否仍然成立？
• RQ4 消息熵在训练过程中如何演变？其水平与任务成功之间是否存在系统性关联？
• RQ5 增加接收方容量是否会改变低熵高效通信协议的出现？

主要发现

• 当接收方可访问完整输入（$ m{v}_s = m{v}_r $）时，消息随机化后性能几乎不变，表明其对消息的依赖极小。
• 即使在消息随机化后，接收方准确率仍接近理论上限，证实当输入完整时消息并非关键因素。
• 熵最小化在词汇表大小（猜数字任务中为256–4096）范围内具有强鲁棒性，结果无定性变化。
• 即使采用更深的接收方架构（两层400×400隐藏层），消息熵仍接近下界 $ H_{ ext{min}} = \text{log}_2 N_l $，表明熵最小化持续存在。
• 在基于GRU的可变长度消息设置中，熵最小化依然成立：仅在隐藏更多输入比特时才使用更高熵，协议随之自适应调整。
• 训练过程中，熵从高初始值下降或从低初始值上升，最终收敛于任务成功所需的最小值附近，表明协调权衡导致动态瓶颈的出现。