[论文解读] The Style-Content Duality of Attractiveness: Learning to Write Eye-Catching Headlines via Disentanglement

Mingzhe Li, Xiuying Chen+4 more|arXiv (Cornell University)|Dec 14, 2020

Video Analysis and Summarization参考文献 45被引用 4

一句话总结

本文提出DAHG，一种基于解耦的模型，可从原型标题中分离出吸引人的内容与风格，从而生成引人注目且内容准确的标题。通过在潜在空间中解耦内容与风格，并利用二者指导标题生成，DAHG实现了最先进性能，在Kuaibao数据集上相比基线模型点击率提升22%。

ABSTRACT

Eye-catching headlines function as the first device to trigger more clicks, bringing reciprocal effect between producers and viewers. Producers can obtain more traffic and profits, and readers can have access to outstanding articles. When generating attractive headlines, it is important to not only capture the attractive content but also follow an eye-catching written style. In this paper, we propose a Disentanglement-based Attractive Headline Generator (DAHG) that generates headline which captures the attractive content following the attractive style. Concretely, we first devise a disentanglement module to divide the style and content of an attractive prototype headline into latent spaces, with two auxiliary constraints to ensure the two spaces are indeed disentangled. The latent content information is then used to further polish the document representation and help capture the salient part. Finally, the generator takes the polished document as input to generate headline under the guidance of the attractive style. Extensive experiments on the public Kuaibao dataset show that DAHG achieves state-of-the-art performance. Human evaluation also demonstrates that DAHG triggers 22% more clicks than existing models.

研究动机与目标

• 解决现有标题生成模型在同时优化内容相关性与风格吸引力方面存在的不足。
• 将吸引力建模为内容（所说的内容）与风格（表达方式）的双重属性，而非将其视为单一属性。
• 通过利用原型标题的解耦内容与风格表征来指导生成过程，从而提升标题生成质量。
• 确保生成的标题既具有吸引力又忠实于源文档，降低点击诱饵（clickbait）风险。

提出的方法

• 一个解耦模块使用两个辅助约束，将原型标题的吸引人内容与风格分离到独立的潜在空间中。
• 学习到的内容空间被用于迭代地突出输入文档表征中的显著且吸引人的部分。
• 标题生成器基于润色后的文档表征和解耦的吸引人风格嵌入生成标题。
• 模型在Kuaibao数据集上端到端训练，使用ROUGE和BLEU指标进行优化，并通过人工评估点击率。
• 原型选择基于输入文档与原型标题之间的语义相似度，以确保内容与风格的有效迁移。
• 通过辅助约束强制实现潜在空间中的解耦，确保风格与内容相互独立。

实验结果

研究问题

• RQ1 在标题中解耦内容与风格，是否能同时提升生成标题的事实准确性与吸引力？
• RQ2 原型标题的选择如何影响生成标题的质量与相关性？
• RQ3 解耦的风格表征能否在不牺牲内容准确性的情况下，引导生成更具吸引力、更易引发点击的标题？
• RQ4 与端到端的抽象生成模型相比，解耦机制在多大程度上提升了标题质量？

主要发现

• DAHG在Kuaibao数据集上达到最先进性能，在ROUGE和BLEU指标上全面超越所有抽象与抽取式基线模型。
• 人工评估显示，DAHG生成的标题相比最强基线模型点击率高出22%。
• 当原型标题与输入文档语义相似时，DAHG生成的标题能准确反映关键事件并吸引注意力。
• 若原型标题错误或不匹配，则生成质量下降，尤其当原型强调不相关内容（如性别而非冲突）时更为明显。
• 解耦机制成功地将风格与内容分离，使模型在保持事实内容的同时增强风格吸引力。
• 如PESG和Sensation等基线模型虽能生成流畅标题，但常存在不忠实或过度夸张的问题，而DAHG在保持内容一致性的同时提升了标题吸引力。