[論文レビュー] Introducing Aspects of Creativity in Automatic Poetry Generation

Brendan Bena, Jugal Kalita|arXiv (Cornell University)|Feb 6, 2020

Topic Modeling参考文献 33被引用数 9

ひとこと要約

本稿では、感情誘発言語とドリームポエトリーを組み合わせることで創造性を実現した、微調整されたGPT-2モデルを紹介する。このモデルは、悲しみを誘発する割合が87.5%、喜びを誘発する割合が85%に達し、リッカート尺度で3.2以上を記録するドリームライクなポエトリーを生成する。これらの評価はクラウドソーシングとCoh-Metrixメトリクスを用いて検証された。

ABSTRACT

Poetry Generation involves teaching systems to automatically generate text that resembles poetic work. A deep learning system can learn to generate poetry on its own by training on a corpus of poems and modeling the particular style of language. In this paper, we propose taking an approach that fine-tunes GPT-2, a pre-trained language model, to our downstream task of poetry generation. We extend prior work on poetry generation by introducing creative elements. Specifically, we generate poems that express emotion and elicit the same in readers, and poems that use the language of dreams---called dream poetry. We are able to produce poems that correctly elicit the emotions of sadness and joy 87.5 and 85 percent, respectively, of the time. We produce dreamlike poetry by training on a corpus of texts that describe dreams. Poems from this model are shown to capture elements of dream poetry with scores of no less than 3.2 on the Likert scale. We perform crowdsourced human-evaluation for all our poems. We also make use of the Coh-Metrix tool, outlining metrics we use to gauge the quality of text generated.

研究の動機と目的

• 感情に共鳴する・創造的に表現された詩を生成する神経的詩生成システムの開発。
• 感情誘発言語とドリームポエトリーという独自の創造的次元を組み込むことで、自動詩生成を拡張すること。
• 人間による評価と自動メトリクスを用いて、生成された詩の感情的影響力とドリームライクな質を評価すること。
• 語彙レベルの感情リソースとトランスファー学習を用いて、感情に配慮したテキスト生成のベースラインを確立すること。
• 単一感情モデルを超えて、多感情および強度感知型詩生成をどのように拡張できるかを検討すること。

提案手法

• 語彙レベルの感情リソースから得た感情固有のコーパスにGPT-2を微調整し、特定の感情を誘発する詩を生成する。
• ドリームナラティブおよびドリーム記述に別個でGPT-2モデルを訓練し、超現実的で創造的言語を特徴とするドリームポエトリーを生成する。
• 最小限のデータで、事前学習済みGPT-2アーキテクチャを下流の詩生成タスクに適応させるトランスファー学習を採用する。
• クラウドソーシングによる人間評価を用いて、生成された詩の感情的影響力とドリームライクな質を評価する。
• Coh-Metrixツールキットを用いて、生成テキストの読みやすさ、具体性、イメージ性、文法的単純さを測定する。
• Flesch-KincaidおよびFlesch Reading Easeスコアを用いて、生成された詩が非常に読みやすく、アクセスしやすいことを保証する。

実験結果

リサーチクエスチョン

• RQ1 微調整されたGPT-2は、読者に悲しみや喜びといった特定の感情を確実に誘発する詩を生成できるか？
• RQ2 言語的および構造的特徴がドリームポエトリーに類似する詩を生成できるか、言語モデルはどの程度の水準に達するか？
• RQ3 Coh-Metrixのような自動メトリクスは、人間の詩の質および感情的影響力の認識とどの程度相関するか？
• RQ4 語彙レベルの感情リソースは、ゼロショットまたはフェイントショット設定において、感情的に一貫性のある詩の生成を効果的に導けるか？
• RQ5 単一感情モデルを超えて、多感情および強度感知型詩生成はどのように拡張できるか？

主な発見

• 感情中心のモデルは、人間評価の87.5%において悲しみを誘発し、85%において喜びを誘発し、強い感情的整合性を示した。
• ドリームポエトリー・モデルは、ドリームライクネスのリッカート尺度で少なくとも3.2のスコアを記録し、ドリームポエトリーの特徴に強く適合していることが示された。
• 生成された詩はFlesch Reading Ease (FRE) スコアが93以上、Flesch-Kincaid Grade Level (FKGL) が2未満であり、高い読みやすさとアクセス可能性を確認した。
• 生成された詩の内容語には、特にドリームでないモデルにおいて、高いイメージ性（IMGc）および具体性（CNCc）スコアが見られ、強い感覚的参加が示された。
• ドリーム言語の抽象的性質を考慮すると、ドリームモデルは具体性が低く、言語的期待に合致している。
• 文法的単純さ（PCSYNp）および物語性（PCNARp）スコアが高く、詩が文法的に単純で物語的構造を持っており、読みやすさと流れを高めていることが示された。