[论文解读] Joint Detection and Location of English Puns

Yanyan Zou, Wei Lu|arXiv (Cornell University)|Aug 31, 2019

Humor Studies and Applications参考文献 26被引用 8

一句话总结

该论文提出了一种用于英语双关语检测与定位的联合序列标注方法，采用一种新颖的BPA标注方案，通过编码双关语相对于句子的位置来实现。通过结合BiLSTM-CRF架构并引入字符级嵌入和位置特征，该方法在同音双关语和异音双关语的基准数据集上均实现了最先进性能。

ABSTRACT

A pun is a form of wordplay for an intended humorous or rhetorical effect, where a word suggests two or more meanings by exploiting polysemy (homographic pun) or phonological similarity to another word (heterographic pun). This paper presents an approach that addresses pun detection and pun location jointly from a sequence labeling perspective. We employ a new tagging scheme such that the model is capable of performing such a joint task, where useful structural information can be properly captured. We show that our proposed model is effective in handling both homographic and heterographic puns. Empirical results on the benchmark datasets demonstrate that our approach can achieve new state-of-the-art results.

研究动机与目标

• 解决流水线方法将双关语检测与定位视为独立任务所存在的局限性。
• 利用结构约束（如每个上下文最多存在一个双关语）以提升模型泛化能力。
• 通过位置编码捕捉双关语倾向于出现在句子后半部分的倾向。
• 构建一个统一框架，适用于同音双关语与异音双关语，克服先前针对特定任务模型的局限性。
• 通过联合学习实现检测与定位之间的信息交互，从而提升整体性能。

提出的方法

• 提出一种新颖的三标签BPA方案：B（双关语之前）、P（双关语本身）、A（双关语之后），以强制实现每句话最多一个双关语的约束。
• 将双关语检测与定位建模为序列标注问题，其中每个词被分配三个标签之一。
• 采用带有字符级嵌入的BiLSTM-CRF模型，以捕捉子词形态并改善OOV词的表示。
• 引入词的位置特征，以编码双关语常出现在句子后半部分的结构倾向。
• 使用交叉熵损失进行端到端训练，并结合CRF解码以确保标签序列的全局一致性。
• 采用确定性方法从标注数据中生成符合结构约束的黄金标准BPA标签序列，确保一致性。

实验结果

研究问题

• RQ1 双关语检测与定位能否在单一序列标注框架下被有效统一？
• RQ2 所提出的BPA标注方案是否通过编码如每句话最多一个双关语等结构约束而提升了性能？
• RQ3 引入位置信息（如双关语倾向于出现在后半部分）对模型性能有何影响？
• RQ4 单一模型能否在无需任务特定调整的情况下，对同音双关语与异音双关语均实现最先进性能？
• RQ5 检测与定位之间的联合学习及信息共享在多大程度上提升了整体性能？

主要发现

• 所提出的BPA标注方案有效强制执行了每个上下文最多一个双关语的结构约束，从而在推理过程中减少了歧义。
• 联合模型在双关语检测与定位任务的基准数据集上均取得了新的最先进结果。
• 错误分析显示，40%的错误源于测试集中未见词导致的低词覆盖率，凸显了OOV泛化能力的关键挑战。
• 检测错误占总错误的40%，表明提升双关语检测能力仍是当前的关键瓶颈。
• 短句（如“Superglue! Tom rejoined.”）因上下文线索不足而构成显著挑战。
• 该模型对同音双关语与异音双关语均表现出良好的泛化能力，而先前系统通常仅针对其中一类设计。