[论文解读] Generating similes effortlessly like a Pro: A Style Transfer Approach for Simile Generation

Tuhin Chakrabarty, Smaranda Muresan+1 more|arXiv (Cornell University)|Sep 18, 2020

Natural Language Processing Techniques参考文献 34被引用 4

一句话总结

该论文提出SCOPE，一种通过在大规模自动构建的直白句子与其隐喻对应物平行语料库上微调BART的风格迁移方法，用于生成富有创意的明喻。结合COMET中的常识知识，该方法生成的明喻在人类评估中37%的时间优于文学专家的成果，且在68%-82%的时间内优于基线模型，展现出在修辞语言生成方面的强劲性能。

ABSTRACT

Literary tropes, from poetry to stories, are at the crux of human imagination and communication. Figurative language such as a simile go beyond plain expressions to give readers new insights and inspirations. In this paper, we tackle the problem of simile generation. Generating a simile requires proper understanding for effective mapping of properties between two concepts. To this end, we first propose a method to automatically construct a parallel corpus by transforming a large number of similes collected from Reddit to their literal counterpart using structured common sense knowledge. We then propose to fine-tune a pretrained sequence to sequence model, BART~\cite{lewis2019bart}, on the literal-simile pairs to gain generalizability, so that we can generate novel similes given a literal sentence. Experiments show that our approach generates $88\%$ novel similes that do not share properties with the training data. Human evaluation on an independent set of literal statements shows that our model generates similes better than two literary experts extit{37\%}\footnote{We average 32.6\% and 41.3\% for 2 humans.} of the times, and three baseline systems including a recent metaphor generation model extit{71\%}\footnote{We average 82\% ,63\% and 68\% for three baselines.} of the times when compared pairwise.\footnote{The simile in the title is generated by our best model. Input: Generating similes effortlessly, output: Generating similes extit{like a Pro}.} We also show how replacing literal sentences with similes from our best model in machine generated stories improves evocativeness and leads to better acceptance by human judges.

研究动机与目标

• 通过使用远程监督和常识知识，自动构建大规模直白句子与其明喻对应物的平行语料库，以解决明喻生成训练数据匮乏的问题。
• 将明喻生成建模为风格迁移任务，通过共享属性将直白描述转换为修辞性比较。
• 通过在训练过程中引入结构化常识知识，提升生成明喻的质量与创意性。
• 评估生成明喻对下游创意文本生成的影响，例如故事的生动性与人类偏好。

提出的方法

• 使用关键词'like a'从Reddit自动收集明喻，形成初始的平行对集合。
• 通过移除比较词'like'并利用COMET（常识知识模型）将明喻的载体替换为其关联属性，将每个明喻转换为其直白对应形式。
• 在生成的[直白, 明喻]对上微调BART序列到序列模型，学习从直白表达到修辞表达的风格迁移。
• 利用COMET提供的结构化常识知识，确保生成的明喻保持语义连贯性与有意义的属性映射。
• 将训练好的模型应用于后处理机器生成的故事，用生成的明喻替换直白描述，以增强文本的生动性。
• 通过Amazon Mechanical Turk的人工评估，将模型输出与文学专家及基线系统进行对比。

实验结果

研究问题

• RQ1 能否利用远程监督和常识知识，自动构建大规模直白句子与其明喻对应物的平行语料库？
• RQ2 在该语料库上微调类似BART的预训练序列到序列模型，能否生成高质量、新颖的明喻，而非简单记忆训练数据中的内容？
• RQ3 与人类文学专家所写的明喻相比，模型生成的明喻在质量与创意性方面表现如何？
• RQ4 生成的明喻在多大程度上提升了机器生成故事的生动性与人类接受度？

主要发现

• 所提出方法生成的88%的明喻未与训练数据中的任何属性共享，表明其具有强大的泛化能力与新颖性。
• 人工评估显示，模型生成的明喻在平均37%的时间内优于两位文学专家的成果。
• 在成对比较中，该模型在68%至82%的时间内优于三种基线系统，包括一个近期的隐喻生成模型。
• 使用模型生成的明喻对机器生成故事进行后处理，显著提升了其生动性，并更受人类评委青睐。
• 通过COMET整合常识知识，对生成语义上合理且上下文相关的明喻至关重要。
• 该方法表明，结合常识增强数据的风格迁移可有效生成富有创意的修辞语言，为创意写作中的自然语言生成开辟了新方向。