[论文解读] Catalytic Role Of Noise And Necessity Of Inductive Biases In The Emergence Of Compositional Communication

Łukasz Kuciński, Tomasz Korbak+2 more|arXiv (Cornell University)|Nov 11, 2021

Cognitive Science and Education ResearchNeuroscience被引用 20

一句话总结

本文表明，在训练框架和数据中存在归纳偏置的前提下，通信信道中的噪声可作为促进多智能体信号游戏中组合语言出现的催化力量。理论上和实证上均显示，特定范围的噪声水平（取决于模型和数据）能促进组合性，该结果通过拓扑相似性、冲突计数和上下文独立性等指标进行衡量。

ABSTRACT

Communication is compositional if complex signals can be represented as a combination of simpler subparts. In this paper, we theoretically show that inductive biases on both the training framework and the data are needed to develop a compositional communication. Moreover, we prove that compositionality spontaneously arises in the signaling games, where agents communicate over a noisy channel. We experimentally confirm that a range of noise levels, which depends on the model and the data, indeed promotes compositionality. Finally, we provide a comprehensive study of this dependence and report results in terms of recently studied compositionality metrics: topographical similarity, conflict count, and context independence.

研究动机与目标

• 研究多智能体信号游戏中组合性通信自发出现的条件。
• 挑战‘组合性可完全通过无监督学习而无需归纳偏置出现’的误解。
• 考察噪声在促进组合性通信协议出现中的作用。
• 评估网络架构、训练过程和数据预处理中的归纳偏置对组合性度量的影响。
• 评估噪声正则化通信协议在零样本和少样本设置下的泛化能力。

提出的方法

• 理论分析证明，训练框架和数据中的归纳偏置是信号游戏中组合性出现的必要条件。
• 提出一种噪声正则化训练设置，通信在具有可控噪声水平的噪声信道中进行。
• 通过损失函数和网络架构编码归纳偏置，以鼓励解耦的、组合性的表征。
• 使用既定指标评估组合性：拓扑相似性、冲突计数和上下文独立性。
• 实验包括对噪声水平、数据打乱（视觉和文本）以及架构变化（如残差连接）的消融研究。
• 通过零样本和微调协议在分布外样本上测试泛化能力，并跟踪增量训练更新过程中的指标。

实验结果

研究问题

• RQ1 在何种条件下，组合性会在多智能体信号游戏中自发出现？
• RQ2 当与归纳偏置结合时，噪声在促进组合性通信中扮演何种催化角色？
• RQ3 不同类型的归纳偏置（架构、训练过程、数据）如何影响组合性的出现？
• RQ4 噪声正则化训练在多大程度上提升了零样本和少样本设置下的泛化能力？
• RQ5 所提出的框架能否推广到非合成数据集？不同噪声水平下组合性度量如何变化？

主要发现

• 训练框架和数据中的归纳偏置是组合性出现的必要条件，挑战了其可完全通过无监督学习出现的观点。
• 当与归纳偏置结合时，通信信道中的噪声可作为组合性的催化剂，特定最优噪声水平范围能促进最高组合性。
• 拓扑相似性、冲突计数和上下文独立性指标在噪声正则化训练下均显著改善，峰值性能出现在中等噪声水平。
• 发送方网络学习到解耦表征，t-SNE可视化显示潜在空间中特征维度的分离更清晰，相较于原始数据。
• 零样本泛化性能较差，但仅通过50次额外网络更新进行微调后，组合性度量显著提升，表明训练协议具有强大的归纳偏置。
• 打乱视觉输入或其文本描述会降低组合性，证实数据层面的归纳偏置对结构化通信出现至关重要。