[论文解读] Neural Metaphor Detection in Context

Ge Gao, Eunsol Choi+2 more|arXiv (Cornell University)|Aug 29, 2018

Language, Metaphor, and Cognition被引用 7

一句话总结

本文提出基于双向LSTM与上下文词嵌入（ELMo）的端到端神经模型，用于在上下文中检测隐喻。该模型在多个基准测试中达到最先进性能，在VUA动词分类任务中F1分数最高提升7.5分，并表明完整句子上下文显著优于有限的语言输入。

ABSTRACT

We present end-to-end neural models for detecting metaphorical word use in context. We show that relatively standard BiLSTM models which operate on complete sentences work well in this setting, in comparison to previous work that used more restricted forms of linguistic context. These models establish a new state-of-the-art on existing verb metaphor detection benchmarks, and show strong performance on jointly predicting the metaphoricity of all words in a running text.

研究动机与目标

• 通过利用完整句子上下文而非受限的语言输入（如SVO三元组）来提升隐喻检测性能。
• 通过使用具有上下文表示的深度神经网络，解决隐喻语言中的上下文推理挑战。
• 比较序列标注与分类方法在隐喻检测中的表现，评估其相对性能与泛化能力。
• 分析失败案例，识别当前模型在检测间接隐喻、拟人化及边界情况方面仍存在的挑战。

提出的方法

• 使用双向LSTM编码完整句子，捕捉每个词的长距离依赖关系与上下文线索。
• 结合预训练词嵌入与ELMo上下文嵌入，以提升词义消歧与隐喻检测效果。
• 对于序列标注，使用前馈网络基于LSTM的隐藏状态预测句子中每个词的隐喻性。
• 对于动词分类，引入索引嵌入与注意力机制，聚焦于目标动词的同时保留上下文信息。
• 将未标注词视为字面意义，简化序列标注任务，无需完整标注。
• 通过黄金标签的对数似然优化模型，实现在隐喻检测任务上的端到端训练。

实验结果

研究问题

• RQ1 基于完整句子上下文的端到端神经模型是否能超越依赖于SVO三元组等有限语言输入的先前方法？
• RQ2 序列标注（预测句子中所有词的隐喻性）在隐喻检测中是否比动词分类更具泛化能力？
• RQ3 与静态词嵌入相比，ELMo等上下文词嵌入在隐喻检测中表现如何提升？
• RQ4 当前模型最难以处理的隐喻表达类型是什么，原因是什么？
• RQ5 模型错误在多大程度上源于模糊或边界情况、长距离依赖关系或隐含论元？

主要发现

• 所提出的结合ELMo嵌入的BiLSTM模型在VUA动词分类基准上达到新的SOTA，F1分数提升7.5分。
• 即使在相同分类任务上评估，序列标注模型仍优于分类模型，表明对所有词进行联合预测具有优势。
• 误报多由隐含论元（31%）或长距离依赖（15%）导致，而误报则常为间接隐喻（33%）或拟人化表达。
• 模型在检测拟人化与间接隐喻方面表现优于仅使用分类的基线模型。
• 约一半的误报与20%的误报属于边界情况，凸显隐喻标注的主观性。
• 错误分析显示，模型在需要深层上下文推理的隐喻上表现最弱，尤其当核心论元未明确表达时。