[论文解读] Idiomatic Expression Identification using Semantic Compatibility

Ziheng Zeng, Suma Bhat|arXiv (Cornell University)|Oct 19, 2021

Natural Language Processing Techniques被引用 8

一句话总结

本文提出 DISC，一种多阶段神经网络，通过语义兼容性（衡量短语意义是否与其上下文一致）来识别和定位上下文中的习语表达（IEs）。该模型在最大基准数据集上实现了最先进性能，尤其在未见习语上，相较于基线模型提升1.4%至30.8%。

ABSTRACT

Idiomatic expressions are an integral part of natural language and constantly being added to a language. Owing to their non-compositionality and their ability to take on a figurative or literal meaning depending on the sentential context, they have been a classical challenge for NLP systems. To address this challenge, we study the task of detecting whether a sentence has an idiomatic expression and localizing it. Prior art for this task had studied specific classes of idiomatic expressions offering limited views of their generalizability to new idioms. We propose a multi-stage neural architecture with the attention flow mechanism for identifying these expressions. The network effectively fuses contextual and lexical information at different levels using word and sub-word representations. Empirical evaluations on three of the largest benchmark datasets with idiomatic expressions of varied syntactic patterns and degrees of non-compositionality show that our proposed model achieves new state-of-the-art results. A salient feature of the model is its ability to identify idioms unseen during training with gains from 1.4% to 30.8% over competitive baselines on the largest dataset.

研究动机与目标

• 解决在上下文中检测习语表达的挑战，特别是当其用法为比喻义或字面义时。
• 克服先前方法依赖已知习语类型或位置，或无法泛化至未见习语的局限。
• 开发一种统一框架，联合检测和定位习语，无需事先知晓其身份或词元范围。
• 通过为下游任务添加预处理步骤，使系统具备习语感知能力，从而提升 NLP 流程的广泛应用性。

提出的方法

• 提出一种多阶段神经架构，通过注意力流在词和子词层面融合上下文与词汇信息。
• 使用上下文嵌入表示（如基于 BERT 的表示）计算短语与其句子上下文之间的语义兼容性（SC）。
• 将语义兼容性定义为衡量短语意义是否与其周围上下文相容——相容 = 字面义，不相容 = 比喻义。
• 端到端训练模型以预测隐喻性习语的词元范围，或在字面义时返回 <CLS> <SEP>，采用序列标注与跨度预测相结合的方法。
• 利用子词分词和多头注意力机制，增强对罕见或未见习语的表征学习能力。
• 应用类型感知的评估划分，以评估在不同习语类型和句法模式下的泛化性能。

实验结果

研究问题

• RQ1 神经网络模型是否能在不预先知晓其身份或位置的情况下，检测并定位上下文中的习语表达？
• RQ2 该模型在训练期间未见过的习语上泛化能力如何，尤其是在多样化的句法模式和非组合性程度下？
• RQ3 语义兼容性是否能有效区分多词表达的字面用法与比喻用法？
• RQ4 错误类型（如遗漏、部分定位、替代错误）如何影响模型性能，这些错误能为未来改进提供哪些启示？
• RQ5 该模型是否能在包含多种习语类型和现实分布偏移的基准数据集上，超越现有最先进方法？

主要发现

• DISC 模型在三个主要习语表达识别基准数据集上实现了最先进性能。
• 在最大数据集中，DISC 相较于竞争性基线模型取得 1.4% 至 30.8% 的性能提升，尤其在未见习语上表现突出。
• 该模型在未见习语上表现出强大的泛化能力，尤其在零样本泛化设置下有显著提升。
• 错误分析显示，42.3% 的错误预测源于完全遗漏习语，29.3% 的错误涉及部分跨度定位。
• 在 9.7% 和 4.3% 的情况下分别发生替代性误检和有意义的误检（如检测到另一个比喻性短语），表明对语义模糊性具有鲁棒性。
• 该模型依赖语义兼容性，使其即使在句法灵活或非组合性表达中也能有效检测，且无需习语特异性归纳偏置。