[论文解读] Diverse, Controllable, and Keyphrase-Aware: A Corpus and Method for News Multi-Headline Generation

Dayiheng Liu, Yeyun Gong+7 more|arXiv (Cornell University)|Apr 8, 2020

Advanced Text Analysis Techniques参考文献 28被引用 4

一句话总结

本文提出了一种关键短语感知的多标题生成方法，利用多源Transformer解码器整合关键短语、过滤后的文章内容和原始内容，生成多样、高质量且相关的新闻标题。作者基于真实用户搜索与点击数据挖掘构建了一个大规模（18万组）关键短语感知新闻标题语料库，在真实世界基准测试中实现了标题质量、相关性和多样性的最先进性能。

ABSTRACT

News headline generation aims to produce a short sentence to attract readers to read the news. One news article often contains multiple keyphrases that are of interest to different users, which can naturally have multiple reasonable headlines. However, most existing methods focus on the single headline generation. In this paper, we propose generating multiple headlines with keyphrases of user interests, whose main idea is to generate multiple keyphrases of interest to users for the news first, and then generate multiple keyphrase-relevant headlines. We propose a multi-source Transformer decoder, which takes three sources as inputs: (a) keyphrase, (b) keyphrase-filtered article, and (c) original article to generate keyphrase-relevant, high-quality, and diverse headlines. Furthermore, we propose a simple and effective method to mine the keyphrases of interest in the news article and build a first large-scale keyphrase-aware news headline corpus, which contains over 180K aligned triples of $$. Extensive experimental comparisons on the real-world dataset show that the proposed method achieves state-of-the-art results in terms of quality and diversity

研究动机与目标

• 为解决单标题生成的局限性，实现对新闻文章的多标题、可控且与关键短语相关的标题生成。
• 利用用户搜索与点击数据构建大规模真实世界关键短语感知新闻标题语料库，以反映用户兴趣。
• 设计一种多源Transformer解码器，通过多源注意力机制提升标题质量和关键短语敏感度。
• 通过将用户兴趣的关键短语作为显式指导，实现可控、多样且高质量的标题生成。
• 提供一种可控的生成框架，支持个性化新闻推荐与编辑辅助。

提出的方法

• 提出一种关键短语挖掘方法，通过分析用户搜索查询和新闻文章中点击数据的常见短语，识别用户兴趣的关键短语。
• 基于真实世界Bing搜索日志，构建了一个包含18万组（新闻文章，标题，关键短语）对齐的大型关键短语感知新闻标题语料库（KeyAware News）。
• 设计一种多源Transformer解码器，输入包括关键短语、关键短语过滤后的文章和原始文章，以增强关键短语的相关性和多样性。
• 探索并对比三种基于注意力的融合机制，以有效整合解码器中的多源信息。
• 采用两阶段流水线训练和评估标题生成模型：先生成关键短语，再进行关键短语感知的标题生成。
• 通过专家评审员进行人工评估，采用合格率指标验证模型输出的标题质量。

实验结果

研究问题

• RQ1 与单标题基线相比，关键短语感知的标题生成是否能提升新闻标题的多样性和相关性？
• RQ2 多源Transformer解码器在整合关键短语、过滤后文章和原始文章输入方面，对标题生成的效率如何？
• RQ3 基于挖掘的用户搜索与点击数据在多大程度上能可靠地识别新闻文章中的用户兴趣关键短语？
• RQ4 引入关键短语指导是否能生成质量更高、更符合人类编辑接受度的标题？
• RQ5 所提方法能否为每篇新闻文章生成多个高质量、多样且上下文相关的标题？

主要发现

• 所提方法在真实世界数据集上实现了标题质量、相关性和多样性的最先进性能，优于强基线模型。
• 人工评估显示，黄金标题的合格率为91.8%，而BASE + Stack模型仅为62.6%，表明本方法质量更优。
• 本方法（BASE + StackFuse）的合格率显著高于多样化基线（36.2%）和随机标题（0.0%），证实了其质量与可接受度的提升。
• 人类标注员与自动指标均验证，该模型生成的标题在指定关键短语下具有高度相关性且多样性良好。
• 关键短语感知语料库构建方法成功利用搜索与点击数据识别出用户兴趣的关键短语，形成可靠的教学与评估资源。
• Transformer解码器中的多源注意力机制有效融合了关键短语、过滤后文章和原始文章的输入，显著提升了标题的相关性与多样性。