[论文解读] The compositionality of neural networks: integrating symbolism and connectionism.

Dieuwke Hupkes, Verna Dankers+2 more|arXiv (Cornell University)|Aug 22, 2019

Topic Modeling参考文献 64被引用 20

一句话总结

本文提出一个基于理论的评估框架，通过将语言学和哲学中的组合性理论转化为五个与任务无关、理论基础坚实的测试，来检验神经网络的组合性。该框架应用于基于高度组合性PCFG SET数据集的序列到序列模型，揭示了模型在系统性泛化、规则学习以及对同义词替换的鲁棒性方面的架构优势与缺陷。

ABSTRACT

Despite a multitude of empirical studies, little consensus exists on whether neural networks are able to generalise compositionally, a controversy that, in part, stems from a lack of agreement about what it means for a neural model to be compositional. As a response to this controversy, we present a set of tests that provide a bridge between, on the one hand, the vast amount of linguistic and philosophical theory about compositionality and, on the other, the successful neural models of language. We collect different interpretations of compositionality and translate them into five theoretically grounded tests that are formulated on a task-independent level. In particular, we provide tests to investigate (i) if models systematically recombine known parts and rules (ii) if models can extend their predictions beyond the length they have seen in the training data (iii) if models' composition operations are local or global (iv) if models' predictions are robust to synonym substitutions and (v) if models favour rules or exceptions during training. To demonstrate the usefulness of this evaluation paradigm, we instantiate these five tests on a highly compositional data set which we dub PCFG SET and apply the resulting tests to three popular sequence-to-sequence models: a recurrent, a convolution based and a transformer model. We provide an in depth analysis of the results, that uncover the strengths and weaknesses of these three architectures and point to potential areas of improvement.

研究动机与目标

• 为解决因组合性定义不一致而引发的关于神经网络是否具有组合性泛化的争议。
• 通过基于语言学和哲学基础的测试，弥合符号组合性理论与经验性神经网络模型之间的鸿沟。
• 开发一组与具体任务无关的评估测试，适用于不同神经网络架构。
• 评估主流序列到序列模型（循环、卷积和基于Transformer的）在多个维度上的组合性泛化能力。
• 识别在系统性重组、外推、局部与全局操作、同义词鲁棒性以及规则与例外学习方面的架构优势与局限性。

提出的方法

• 将哲学与语言学中五种不同的组合性解释转化为五个形式化、与任务无关的评估测试。
• 设计一个合成的、高度组合性的数据集，称为PCFG SET，用于测试系统性泛化，其基础为概率上下文无关文法。
• 将这五个测试应用于三种最先进的序列到序列模型：一种循环网络、一种卷积网络和一种Transformer。
• 评估模型在已知部分与规则的系统性重组、训练序列长度之外的外推能力、组合操作的局部性、对输入序列中同义词替换的鲁棒性，以及对规则与例外的偏好。
• 使用标准化指标量化所有五个测试中的性能表现，实现跨模型比较。
• 对模型在五个测试维度上的行为进行深入的定性与定量分析。

实验结果

研究问题

• RQ1 神经网络在多大程度上能够系统性地重组训练中未出现过的组合部分与规则？
• RQ2 模型能否将其预测外推到训练中未见的序列长度？
• RQ3 神经网络中的组合操作是局部的（如标记级）还是全局的（如序列级）？
• RQ4 模型预测对输入序列中同义词替换的鲁棒性如何？
• RQ5 在训练过程中，模型是更倾向于学习通用规则，还是记忆例外？

主要发现

• Transformer模型在系统性重组和外推方面表现最强，优于RNN和CNN架构。
• 所有模型对同义词替换的鲁棒性均有限，表明其组合操作缺乏语义抽象能力。
• RNN和CNN模型表现出更多的全局组合模式，而Transformer则展现出局部与全局行为的混合特征。
• 所有三种模型在训练中均强烈偏好记忆例外而非学习通用规则，尤其在数据量较少的情况下更为明显。
• 模型在泛化超过训练长度方面的能力极低，仅Transformer表现出微弱的外推能力。
• 该评估框架成功揭示了模型在组合性方面的架构偏见与局限性，凸显了改进序列模型归纳偏置的必要性。