[論文レビュー] Conditional Rap Lyrics Generation with Denoising Autoencoders

Nikola I. Nikolov, Eric Malmi+2 more|arXiv (Cornell University)|Apr 8, 2020

Topic Modeling参考文献 23被引用数 4

ひとこと要約

本稿では、ニュース記事や要約などの非ラップテキストから一貫性があり韻を踏んだラップ・ラyricsを生成する、トランスフォーマーに基づくノイズ除去オートエンコーダーを提案する。コンテンツ語を抽出し、韻の強化のためのBERTベースの言い換えを適用することで、韻の密度を10%向上させ、高い内容保持度とスタイル転送を達成し、人的評価において情報検索ベースラインを上回った。

ABSTRACT

We develop a method for automatically synthesizing a rap verse given an input text written in another form, such as a summary of a news article. Our approach is to train a Transformer-based denoising autoencoder to reconstruct rap lyrics from content words. We study three different approaches for automatically stripping content words that convey the essential meaning of the lyrics. Moreover, we propose a BERT-based paraphrasing scheme for rhyme enhancement and show that it increases the average rhyme density of the lyrics by 10%. Experimental results on three diverse input domains -- existing rap lyrics, news, and movie plot summaries -- show that our method is capable of generating coherent and technically fluent rap verses that preserve the input content words. Human evaluation demonstrates that our approach gives a good trade-off between content preservation and style transfer compared to a strong information retrieval baseline.

研究の動機と目的

• ニュース記事や要約などの非ラップテキスト入力から、スタイル的に正確なラップ・ラyricsを生成する手法を開発すること。
• 元の意味的コアコンテンツを保持しつつ、それを韻を踏んだリズミカルなラップ・バージョンに変換すること。
• BERTベースの言い換えスキームを用いて、生成されたラップ・ラyricsの韴の密度を向上させること。
• ラップ生成における内容保持とスタイル転送のトレードオフを評価すること。
• 人的評価を用いて、提案手法を強力な情報検索ベースラインと比較すること。

提案手法

• トランスフォーマーに基づくノイズ除去オートエンコーダーを訓練し、元のラップ・ラyricsから抽出されたコンテンツ語のみを含むマスク化されたバージョンから、完全なラップ・ラyricsを再構築させること。
• 意味の保持を可能にしつつスタイル転送を可能にするために、コンテンツ語を特定する3つの異なるアプローチを評価した。
• 生成されたラップ・ラyricsにBERTベースの言い換え技術を適用し、より多くの韻を含むように再構成することで、韴の密度を向上させた。
• 一般化性能を評価するため、既存のラップ・ラyrics、ニュース記事、映画のあらましの3つの入力ドメインでモデルをファインチューニングした。
• 関数語や構造的要素を除外し、文の中で最も意味のある語を特定する自然言語処理技術を用いて、コンテンツ語を抽出した。
• 最終的な出力は、ノイズ除去オートエンコーダーを介してマスクされた入力を再構築することで得られ、流暢で韴を踏んだラップ・バージョンが生成された。

実験結果

リサーチクエスチョン

• RQ1 ノイズ除去オートエンコーダーは、多様な入力タイプから抽出されたコンテンツ語から、一貫性のあるラップ・ラyricsを効果的に再構築できるか？
• RQ2 BERTベースの言い換えは、生成されたラップ・ラyricsの韴の密度をどの程度向上させるか？
• RQ3 本手法は、元の入力の内容をどの程度保持しつつ、ラップスタイルに転送しているか？
• RQ4 内容の忠実度とスタイルの質の観点から、本手法は情報検索ベースラインと比べてどの程度優れているか？
• RQ5 ニュース、映画のあらまし、既存のラップ・ラyricsといった異なる入力ドメインに、本アプローチは一般化可能か？

主な発見

• 提案手法は、3つの多様なドメインにわたる入力テキストの本質的コンテンツを保持しつつ、一貫性があり技術的に流暢なラップ・バージョンを効果的に生成した。
• BERTベースの言い換えスキームにより、生成されたラップ・ラyricsの平均韴の密度がベースライン生成と比較して10%向上した。
• 人的評価により、本手法が情報検索ベースラインよりも内容保持とスタイル転送のバランスが優れていることが確認された。
• モデルは強力な一般化性能を示し、既存のラップ・ラyricsだけでなく、ニュース記事や映画のあらましからも高品質な出力を生成した。
• コンテンツ語抽出手法は、生成されたラップ・ラyricsの品質に顕著な影響を与え、最も優れたアプローチが明確な意味的保持を可能にした。