[论文解读] Demystifying Neural Language Models' Insensitivity to Word-Order

Louis Clouâtre, Prasanna Parthasarathi+2 more|arXiv (Cornell University)|Jul 29, 2021

Topic Modeling参考文献 67被引用 4

一句话总结

本文提出了两种新颖的度量方法——直接邻居位移（DND）与索引位移计数（IDC），用于量化文本中的局部与全局词序扰动，揭示出神经语言模型对局部标记顺序的依赖程度高于对全局重排的依赖。研究发现，即使是最先进的模型如Transformer、LSTM和CNN，对局部顺序破坏的敏感度也显著高于对全局重排的敏感度，这挑战了关于其句法敏感性的既有假设。

ABSTRACT

Recent research analyzing the sensitivity of natural language understanding models to word-order perturbations have shown that the state-of-the-art models in several language tasks may have a unique way to understand the text that could seldom be explained with conventional syntax and semantics. In this paper, we investigate the insensitivity of natural language models to word-order by quantifying perturbations and analysing their effect on neural models' performance on language understanding tasks in GLUE benchmark. Towards that end, we propose two metrics - the Direct Neighbour Displacement (DND) and the Index Displacement Count (IDC) - that score the local and global ordering of tokens in the perturbed texts and observe that perturbation functions found in prior literature affect only the global ordering while the local ordering remains relatively unperturbed. We propose perturbations at the granularity of sub-words and characters to study the correlation between DND, IDC and the performance of neural language models on natural language tasks. We find that neural language models - pretrained and non-pretrained Transformers, LSTMs, and Convolutional architectures - require local ordering more so than the global ordering of tokens. The proposed metrics and the suite of perturbations allow a systematic way to study the (in)sensitivity of neural language understanding models to varying degree of perturbations.

研究动机与目标

• 探究最先进的神经语言模型为何在自然语言理解任务中对词序扰动表现出不敏感性。
• 通过新型细粒度扰动技术，量化局部与全局词序变化对模型性能的影响。
• 开发能够区分文本中局部（相邻标记）与全局（整体序列）顺序扰动的度量方法。
• 评估不同架构——Transformer、LSTM、CNN——在预训练与非预训练变体下对这些扰动的敏感度。
• 提供一个系统性框架，用于分析模型在不同程度词序操纵下的鲁棒性。

提出的方法

• 提出直接邻居位移（DND）度量，用于衡量相邻标记对的扰动，捕捉局部顺序变化。
• 引入索引位移计数（IDC）度量，通过测量每个标记与其原始位置的偏离程度，量化全局重排。
• 设计子词与字符级别的扰动，以实现对局部与全局顺序变化的细粒度控制。
• 将这些扰动应用于GLUE基准数据集，评估多种自然语言处理任务中的性能下降情况。
• 在受控扰动条件下，训练并评估一系列模型，包括预训练与非预训练的Transformer、LSTM与CNN。
• 将DND与IDC得分与模型性能下降进行相关性分析，以评估对局部与全局顺序扰动的相对敏感度。

实验结果

研究问题

• RQ1 局部与全局词序扰动如何差异化地影响神经语言模型的性能？
• RQ2 最先进的模型在多大程度上依赖局部标记顺序，而非全局序列结构？
• RQ3 子词与字符级别的扰动能否揭示出传统句子级重排无法暴露的模型行为中的隐藏敏感性？
• RQ4 DND与IDC度量在不同架构与任务中与性能下降的相关性如何？
• RQ5 预训练模型是否表现出比非预训练模型更强的对词序变化的不敏感性？

主要发现

• 神经语言模型，包括Transformer、LSTM与CNN，其性能对局部顺序变化的敏感度显著高于对全局重排的敏感度，这一发现由DND与IDC度量所证实。
• 以往研究中的扰动主要影响全局顺序，同时保持局部标记相邻性，这可能是观察到模型性能不敏感的原因。
• 子词与字符级别的扰动揭示出，即使在大型预训练模型中，局部顺序仍是模型理解的关键信号。
• 所提出的DND与IDC度量能有效捕捉局部与全局顺序扰动的区别，并与性能下降呈现强相关性。
• 在DND增加的扰动下，性能下降始终高于在IDC增加的扰动下，表明模型对局部结构的依赖更强。
• 研究结果表明，当前模型可能更多依赖局部序列模式，而非句法或语义上的全局结构，这挑战了关于其句法理解能力的既有假设。