[论文解读] An Iterative Polishing Framework based on Quality Aware Masked Language Model for Chinese Poetry Generation

Liming Deng, Jie Wang+6 more|arXiv (Cornell University)|Nov 29, 2019

Natural Language Processing Techniques参考文献 32被引用 4

一句话总结

本文提出一种基于质量感知掩码语言模型（QA-MLM）的迭代润色框架，用于中文诗歌生成，通过多任务学习提升诗歌质量。该框架首先通过编码器-解码器模型生成初稿，随后通过上下文化预测迭代检测并替换低质量字符，当诗歌达到质量标准时自动终止，显著提升了人工评估中的流畅性、连贯性和诗歌质量。

ABSTRACT

Owing to its unique literal and aesthetical characteristics, automatic generation of Chinese poetry is still challenging in Artificial Intelligence, which can hardly be straightforwardly realized by end-to-end methods. In this paper, we propose a novel iterative polishing framework for highly qualified Chinese poetry generation. In the first stage, an encoder-decoder structure is utilized to generate a poem draft. Afterwards, our proposed Quality-Aware Masked Language Model (QAMLM) is employed to polish the draft towards higher quality in terms of linguistics and literalness. Based on a multi-task learning scheme, QA-MLM is able to determine whether polishing is needed based on the poem draft. Furthermore, QAMLM is able to localize improper characters of the poem draft and substitute with newly predicted ones accordingly. Benefited from the masked language model structure, QAMLM incorporates global context information into the polishing process, which can obtain more appropriate polishing results than the unidirectional sequential decoding. Moreover, the iterative polishing process will be terminated automatically when QA-MLM regards the processed poem as a qualified one. Both human and automatic evaluation have been conducted, and the results demonstrate that our approach is effective to improve the performance of encoder-decoder structure.

研究动机与目标

• 解决使用神经生成模型生成连贯、有意义且具有高美学质量的中文诗歌的挑战。
• 通过支持诗歌初稿的迭代优化，模拟人类诗歌创作过程。
• 开发一种系统，能够自主判断是否需要润色、应修改哪些标记，并以更高质量的替代项进行替换。
• 通过利用双向上下文提升标记预测能力，克服序列到序列模型单向解码的局限性。
• 在生成诗歌达到合格标准时，实现润色过程的自动终止。

提出的方法

• 采用结合预训练 BERT 与 Transformer 解码器的编码器-解码器模型，生成初始诗歌初稿。
• 通过多任务学习方案训练质量感知掩码语言模型（QA-MLM），同时预测标记质量与掩码标记。
• QA-MLM 识别初稿中的低质量字符，并利用完整的左、右上下文，替换为语境恰当的替代项。
• 润色过程为迭代式，并在 QA-MLM 将诗歌分类为合格时自动终止。
• 模型利用 BERT 的双向注意力机制捕捉全局上下文，超越单向解码，提升语义与句法连贯性。
• 该框架在生成后应用，用于优化各类编码器-解码器基线模型的输出，提升其质量，且不改变原始生成过程。

实验结果

研究问题

• RQ1 多任务掩码语言模型能否有效评估生成的中文诗歌初稿的质量？
• RQ2 模型能否利用全局上下文准确定位并替换诗歌初稿中的低质量字符？
• RQ3 与端到端生成相比，采用自动终止机制的迭代润色是否能提升语义连贯性与诗歌质量？
• RQ4 QA-MLM 框架在多大程度上提升了流畅性、意义性和诗歌性，超越基线模型？
• RQ5 在润色过程中整合双向上下文，相较于单向解码，在诗歌生成中表现如何？

主要发现

• 人工评估显示，QA-MLM 润色框架在流畅性、连贯性、意义性和诗歌性方面，显著优于基线模型。
• 自动评估指标如相似度、音调水平和节奏准确性经润色后有所提升，尤其在 AS2S 和 CVAE-D 模型上表现明显，但 B&T 模型因语义质量提升的权衡，音调与节奏略有下降。
• BLEU 分数提升有限，表明自动指标在高质量诗歌评估中不足为凭，因其对所有标记的更改取平均值。
• QA-MLM 模型成功识别并用语境恰当的字符替换了低质量字符，即使仅进行少量修改，也带来了显著的定性提升。
• 迭代润色过程在诗歌达到质量标准时自动终止，证明了文本优化中自评估的可行性。
• 在人工评估中，该框架优于所有基线编码器-解码器模型，证实 QA-MLM 通过上下文感知优化，有效提升了语义与文学质量。