[論文レビュー] Hooks in the Headline: Learning to Generate Headlines with Controlled Styles

Di Jin, Zhijing Jin+3 more|arXiv (Cornell University)|Apr 4, 2020

Topic Modeling参考文献 52被引用数 7

ひとこと要約

本稿では、複数のスタイル（ユーモア、ロマンス、クリックバイト）を制御可能な要約モデルであるTitleStylistを用いて、注目を引くヘッドラインを生成する新しいタスクであるスタイルヘッドライン生成（SHG）を紹介する。抽象的要約とノイズ除去自己符号化（DAE）を組み合わせ、スタイル固有の層正則化およびアテンション機構を採用することで、自然で関連性が高く、非常に魅力的なヘッドラインを生成する。このモデルは、最先端の要約モデルおよび人間が作成した基準ヘッドラインを上回る読者吸引力を達成し、9.68%高い吸引力スコアを記録した。

ABSTRACT

Current summarization systems only produce plain, factual headlines, but do not meet the practical needs of creating memorable titles to increase exposure. We propose a new task, Stylistic Headline Generation (SHG), to enrich the headlines with three style options (humor, romance and clickbait), in order to attract more readers. With no style-specific article-headline pair (only a standard headline summarization dataset and mono-style corpora), our method TitleStylist generates style-specific headlines by combining the summarization and reconstruction tasks into a multitasking framework. We also introduced a novel parameter sharing scheme to further disentangle the style from the text. Through both automatic and human evaluation, we demonstrate that TitleStylist can generate relevant, fluent headlines with three target styles: humor, romance, and clickbait. The attraction score of our model generated headlines surpasses that of the state-of-the-art summarization model by 9.68%, and even outperforms human-written references.

研究の動機と目的

• 事実的で単調なヘッドラインしか生成しないヘッドライン生成システムのギャップに対処する。
• 読者へのインパクトを高めるために、ヘッドラインにおける言語的スタイルを明示的に制御する新しいタスク「スタイルヘッドライン生成（SHG）」を提案する。
• スタイル固有の記事-ヘッドラインペアが存在しない状況でも、スタイル固有のヘッドラインを生成する手法を開発する。
• マルチタスク学習フレームワーク内での新しいパラメータ共有方式を用いて、コンテンツとスタイルを分離する。
• モデル生成ヘッドラインが事実関係を保ちつつ、人間が作成した基準を上回る魅力を持つことを実証する。

提案手法

• TitleStylistは、モノスタイルコーパス上で抽象的要約とノイズ除去自己符号化（DAE）を統合したマルチタスク学習フレームワークを採用する。
• モデルはスタイル依存の層正則化とスタイルガイドドエンコーダーアテンションを用い、言語的スタイルとコンテンツ表現を分離する。
• 重要なコンponents（層正則化およびアテンション）をスタイルごとに特化させつつ、他のパラメータを共有することで、効率性と一般化性能を向上させるパラメータ共有方式を採用する。
• 標準のヘッドライン-記事データセットを要約用に、別個のスタイル固有コーパス（ユーモア、ロマンス、クリックバイト）を再構成用に使用して学習を行う。
• エンドツーエンドのファインチューニングにより、事実関係に即しただけでなく、ターゲットスタイルと整合性のあるヘッドラインを生成する。
• 共有コンテンツエンコーダーと専用のスタイルヘッドを用いて、同時に3つのスタイルを学習することで、マルチスタイル生成を実現する。

実験結果

リサーチクエスチョン

• RQ1 スタイル固有の記事-ヘッドラインペアが入手不可な状況下でも、自然で関連性があり、スタイルに一貫性のあるヘッドラインを生成できるか？
• RQ2 要約とノイズ除去自己符号化を統合したマルチタスクフレームワークは、スタイル制御性と事実関係の両面で効果的か？
• RQ3 スタイル固有の層正則化およびアテンション機構は、ヘッドライン生成においてスタイルとコンテンツをどの程度分離できるか？
• RQ4 1つのモデルが、人間が作成した例と同等の読者吸引力を持つ複数のスタイルのヘッドラインを生成できるか？
• RQ5 多様なスタイルコーパスを用いた非教師あり再構成は、教師あり要約モデルの性能を向上させるか？

主な発見

• TitleStylistは、ユーモア、ロマンス、クリックバイトのターゲットスタイルを持つヘッドラインを生成し、最先端の要約モデルを上回る9.68%高い吸引力スコアを達成した。
• 人間による評価では、57.4%（ユーモア）、53.7%（ロマンス）、52.9%（クリックバイト）の比較で、TitleStylistのヘッドラインが人間が作成した基準を上回った。これは、読者吸引力に優れていることを示している。
• マルチスタイル版であるTitleStylist-Versatileは、単一スタイルモデルと同等のROUGE-L（25.8）およびBLEU（14.5）スコアを達成しながら、同時に3つのスタイルのヘッドラインを生成した。
• スタイルパターンを組み込んでも、要約性能は強く維持され、ベースラインのNHGモデルと同等の関連性スコアを記録した。
• マルチタスクベースラインは、標準のNHGモデルを上回った。これは、スタイル固有ペアデータがなくても、非教師あり再構成が要約性能を向上させることを示している。
• 生成ヘッドラインのパープレキシティ（PPL）は、テストセットと同等（PPL = 42.5）であり、すべてのモデルとスタイルで自然さが保証された。