[论文解读] MERMAID: Metaphor Generation with Symbolism and Discriminative Decoding

Tuhin Chakrabarty, Xurui Zhang+2 more|arXiv (Cornell University)|Mar 11, 2021

Language, Metaphor, and Cognition参考文献 45被引用 4

一句话总结

该论文提出MERMAID模型，通过利用象征意义和判别式解码，将字面句子转化为隐喻。通过使用掩码语言建模和常识推理自动构建包含93,498个样本的平行语料库，并使用隐喻判别器微调BART模型，该模型生成的隐喻质量优于基线模型，在人工评估中获得66%的偏好率，在任务型评估中可提升人工创作的诗歌质量，偏好率达68%。

ABSTRACT

Generating metaphors is a challenging task as it requires a proper understanding of abstract concepts, making connections between unrelated concepts, and deviating from the literal meaning. In this paper, we aim to generate a metaphoric sentence given a literal expression by replacing relevant verbs. Based on a theoretically-grounded connection between metaphors and symbols, we propose a method to automatically construct a parallel corpus by transforming a large number of metaphorical sentences from the Gutenberg Poetry corpus (Jacobs, 2018) to their literal counterpart using recent advances in masked language modeling coupled with commonsense inference. For the generation task, we incorporate a metaphor discriminator to guide the decoding of a sequence to sequence model fine-tuned on our parallel data to generate high-quality metaphors. Human evaluation on an independent test set of literal statements shows that our best model generates metaphors better than three well-crafted baselines 66% of the time on average. A task-based evaluation shows that human-written poems enhanced with metaphors proposed by our model are preferred 68% of the time compared to poems without metaphors.

研究动机与目标

• 解决字面到隐喻句子生成任务中缺乏平行训练数据的问题。
• 在保持字面句与隐喻句语义一致性的同时，实现词汇层面的多样性。
• 克服自回归模型倾向于生成字面语言而非隐喻语言的倾向。
• 通过隐喻判别器引导的判别式解码提升隐喻质量。
• 评估该模型在真实世界创意写作任务（如提升人类诗歌质量）中的影响。

提出的方法

• 通过掩码语言建模和COMET的常识知识，将古腾堡诗歌语料库中的隐喻句转换为字面句，构建包含93,498对[字面句, 隐喻句]的平行语料库。
• 利用ConceptNet中的SymbolOf关系，确保在字面化过程中保留象征意义，使隐喻建立在共享的概念符号之上。
• 在构建的平行语料库上微调BART序列到序列模型，以学习从字面句到隐喻句的转换。
• 在解码过程中引入判别式隐喻检测器作为奖励模型，引导生成器输出更具隐喻性的结果。
• 在推理阶段使用隐喻检测模型（Liu et al., 2019）进行重排序，以提升生成假设的质量。
• 通过人工评估和任务型评估验证模型在独立生成和真实世界创意写作任务中的表现。

实验结果

研究问题

• RQ1 能否有效利用象征意义构建大规模字面到隐喻句子生成的平行语料库？
• RQ2 判别式隐喻判别器是否能提升解码过程中生成句子的质量和隐喻契合度？
• RQ3 所提出的方法是否在人工评估中优于强基线模型？
• RQ4 当用作创意写作辅助工具时，该模型能否提升人类创作诗歌的质量？
• RQ5 保留象征意义在多大程度上提升了字面句与隐喻句输出之间的语义一致性？

主要发现

• 该方法通过掩码语言建模和常识推理，基于象征意义构建了包含93,498对[字面句, 隐喻句]的平行语料库。
• 人工评估显示，最佳MERMAID模型生成的隐喻在与三个精心设计的基线模型对比中，有66%的偏好率。
• 在21%的对比中，该模型优于两名文学专家基线模型；在81%的对比中优于两个强基线模型。
• 在任务型评估中，使用MERMAID生成的隐喻增强的诗歌在68%的情况下优于未使用隐喻的诗歌。
• 在解码过程中集成隐喻判别器显著提升了生成输出的质量和隐喻恰当性。
• 该模型在未见的字面输入上表现出强大的泛化能力，在保持语义一致性的同时引入了多样的隐喻表达。