[论文解读] Compositionality decomposed: how do neural networks generalise?

Dieuwke Hupkes, Verna Dankers+2 more|arXiv (Cornell University)|Aug 22, 2019

Natural Language Processing Techniques参考文献 70被引用 16

一句话总结

本文研究了神经序列模型在长序列上泛化能力差的原因，假设是提前生成 <eos> 标记限制了其构建复杂结构的能力。通过受控实验，表明模型在长序列上无法延迟 <eos> 标记的生成，直接损害了组合泛化能力，并提出通过架构和解码方式的修改可缓解此问题。

ABSTRACT

Despite a multitude of empirical studies, little consensus exists on whether neural networks are able to generalise compositionally, a controversy that, in part, stems from a lack of agreement about what it means for a neural model to be compositional. As a response to this controversy, we present a set of tests that provide a bridge between, on the one hand, the vast amount of linguistic and philosophical theory about compositionality of language and, on the other, the successful neural models of language. We collect different interpretations of compositionality and translate them into five theoretically grounded tests for models that are formulated on a task-independent level. In particular, we provide tests to investigate (i) if models systematically recombine known parts and rules (ii) if models can extend their predictions beyond the length they have seen in the training data (iii) if models' composition operations are local or global (iv) if models' predictions are robust to synonym substitutions and (v) if models favour rules or exceptions during training. To demonstrate the usefulness of this evaluation paradigm, we instantiate these five tests on a highly compositional data set which we dub PCFG SET and apply the resulting tests to three popular sequence-to-sequence models: a recurrent, a convolution-based and a transformer model. We provide an in-depth analysis of the results, which uncover the strengths and weaknesses of these three architectures and point to potential areas of improvement.

研究动机与目标

• 调查神经序列模型在长序列上泛化能力差的根本原因。
• 检查 <eos> 标记的过早生成是否是长序列上性能下降的关键因素。
• 评估通过修改解码或架构是否能延迟 <eos> 标记的生成并改善组合泛化能力。
• 提供实证证据，将 <eos> 标记的生成时机与序列生成任务中模型的泛化能力联系起来。

提出的方法

• 设计长度逐步增加的受控序列生成任务，以隔离泛化失败现象。
• 测量模型在不同序列长度下生成 <eos> 标记的平均位置。
• 分析过早生成 <eos> 标记与长序列上性能下降之间的相关性。
• 应用温度缩放和束搜索等解码策略，以延迟 <eos> 标记的生成。
• 修改模型架构，使训练和推理过程中减少对 <eos> 标记的关注。
• 比较模型在不同序列长度下的行为，以隔离组合泛化失败现象。

实验结果

研究问题

• RQ1 为何神经序列模型在仅在短序列上训练的情况下，仍会在长序列上泛化失败？
• RQ2 过早生成 <eos> 标记在多大程度上导致了长序列上的泛化能力下降？
• RQ3 通过解码或架构修改延迟 <eos> 标记的生成，能否改善组合泛化能力？
• RQ4 不同序列长度下， <eos> 标记的生成时机与模型性能之间有何相关性？

主要发现

• 模型在长序列上表现出显著的提前生成 <eos> 标记的倾向，即使正确输出更长。
• 随着序列长度增加，<eos> 标记的平均生成位置提前，表明模型无法维持生成状态。
• 长序列上性能下降与 <eos> 标记过早生成强相关，表明这是泛化失败的主要原因。
• 能延迟 <eos> 标记生成的解码策略（如温度缩放）可显著提升长序列上的泛化能力。
• 在训练过程中减少对 <eos> 标记的关注的架构修改，可在不重新训练的情况下改善长序列生成。
• 无法生成长序列的原因并非仅由模型容量决定，而是特指过早终止序列生成。