[论文解读] Introducing Aspects of Creativity in Automatic Poetry Generation

Brendan Bena, Jugal Kalita|arXiv (Cornell University)|Feb 6, 2020

Topic Modeling参考文献 33被引用 9

一句话总结

本文提出一种微调后的 GPT-2 模型，用于自动诗歌生成，通过情感诱发语言和梦境诗歌实现创造力。该模型在诱发悲伤情绪方面成功率达 87.5%，在诱发喜悦情绪方面成功率为 85%，并生成了在李克特量表上得分 ≥3.2 的梦境般诗歌，其有效性通过众包和 Coh-Metrix 指标验证。

ABSTRACT

Poetry Generation involves teaching systems to automatically generate text that resembles poetic work. A deep learning system can learn to generate poetry on its own by training on a corpus of poems and modeling the particular style of language. In this paper, we propose taking an approach that fine-tunes GPT-2, a pre-trained language model, to our downstream task of poetry generation. We extend prior work on poetry generation by introducing creative elements. Specifically, we generate poems that express emotion and elicit the same in readers, and poems that use the language of dreams---called dream poetry. We are able to produce poems that correctly elicit the emotions of sadness and joy 87.5 and 85 percent, respectively, of the time. We produce dreamlike poetry by training on a corpus of texts that describe dreams. Poems from this model are shown to capture elements of dream poetry with scores of no less than 3.2 on the Likert scale. We perform crowdsourced human-evaluation for all our poems. We also make use of the Coh-Metrix tool, outlining metrics we use to gauge the quality of text generated.

研究动机与目标

• 开发一种神经诗歌生成系统，以生成情感共鸣强烈且富有创造力的诗歌。
• 通过引入情感诱发语言和梦境诗歌作为独立的创造力维度，扩展自动诗歌生成技术。
• 通过人工评估和自动化指标，评估生成诗歌的情感影响和梦境般特质。
• 利用词级情感词典和迁移学习，建立情感感知文本生成的基线。
• 探索超越单一情感模型的多情感与强度感知诗歌生成。

提出的方法

• 基于词级情感词典生成的情感特异性语料，对 GPT-2 进行微调，以生成能诱发特定情感的诗歌。
• 对梦境叙事和梦境描述语料单独训练 GPT-2 模型，以生成具有超现实、富有想象力语言的梦境诗歌。
• 采用迁移学习，利用预训练 GPT-2 架构在少量数据下适应下游诗歌生成任务。
• 通过众包人工评估，衡量生成诗歌的情感影响和梦境般特质。
• 应用 Coh-Metrix 工具包，测量生成文本的可读性、具体性、意象性和句法简洁性。
• 使用 Flesch-Kincaid 和 Flesch 阅读便捷度得分，确保生成的诗歌具有高度可读性和可访问性。

实验结果

研究问题

• RQ1 微调后的 GPT-2 是否能可靠地生成在读者中诱发特定情感（如悲伤和喜悦）的诗歌？
• RQ2 语言模型在多大程度上能生成模仿梦境诗歌语言和结构特征的诗歌？
• RQ3 Coh-Metrix 等自动化指标与人类对诗歌质量及情感影响的感知之间是否存在相关性？
• RQ4 词级情感词典是否能有效引导在零样本或少样本设置下生成情感连贯的诗歌？
• RQ5 如何将多情感与强度感知的诗歌生成从单一情感模型中进一步拓展？

主要发现

• 情感导向模型在 87.5% 的人工评估中成功诱发悲伤情绪，在 85% 的情况下诱发喜悦情绪，显示出强烈的情感一致性。
• 梦境诗歌模型生成的诗歌在梦境般特质的李克特量表上得分至少为 3.2，表明其高度符合梦境诗歌的特征。
• 生成诗歌的 Flesch 阅读便捷度（FRE）得分高于 93，Flesch-Kincaid 年级水平（FKGL）低于 2，证实其具有高度可读性和可访问性。
• 生成诗歌中的内容词表现出较高的意象性（IMGc）和具体性（CNCc）得分，尤其在非梦境模型中，表明具有强烈的感官参与感。
• 由于梦境语言的抽象性，梦境模型在具体性方面得分较低，这与语言学预期一致。
• 句法简洁性（PCSYNp）和叙事性（PCNARp）得分较高，表明诗歌句法简洁且具有叙事结构，增强了可读性和流畅性。