[論文レビュー] Deep-speare: A Joint Neural Model of Poetic Language, Meter and Rhyme

Jey Han Lau, Trevor Cohn+3 more|arXiv (Cornell University)|Jul 10, 2018

Music and Audio Processing参考文献 31被引用数 4

ひとこと要約

本稿では、シャイクスピア風十四行詩における詩的言語、抑揚、韻を統合的アーキテクチャを用いて同時に生成する共同ニューラルモデル、Deep-speareを提案する。リズムと韻の両面で優れた性能を発揮し、人間の作品とほとんど区別がつかない詩を生成するが、熟練者による評価では、熟読性と感情的インパクトに劣っていることが判明し、今後の研究は形式的制約を超えて詩的本質に注力すべきであることを示唆している。

ABSTRACT

In this paper, we propose a joint architecture that captures language, rhyme and meter for sonnet modelling. We assess the quality of generated poems using crowd and expert judgements. The stress and rhyme models perform very well, as generated poems are largely indistinguishable from human-written poems. Expert evaluation, however, reveals that a vanilla language model captures meter implicitly, and that machine-generated poems still underperform in terms of readability and emotion. Our research shows the importance expert evaluation for poetry generation, and that future research should look beyond rhyme/meter and focus on poetic language.

研究の動機と目的

• 十四行詩生成に向け、詩的言語、抑揚、韻を同時に捉える共同ニューラルモデルの開発。
• クラウドワーカーおよび熟練者による評価を用いて、生成された詩の品質を評価すること。
• 抑揚および韻の明示的モデリングが、汎用言語モデルが達成できる水準を上回る詩的品質を向上させるかどうかを調査すること。
• 形式的制約（抑揚および韻）に注力するモデルが、熟読性および感情的深さに悪影響を及ぼすかどうかを評価すること。
• 再現可能性および今後の研究を目的として、新規の十四行詩データセットおよび完全なソースコードを公開すること。

提案手法

• 抑揚（抑揚）および韻予測のための別個モジュールを備えた言語モデルと統合する共同アーキテクチャを提案。
• Project Gutenbergから抽出した新規の十四行詩コーパスを用い、構造的および語彙的制約を満たすように、エンドツーエンドでモデルを学習。
• 文字レベルの言語モデルにアテンション機構を適用し、指定された抑揚および韻パターンに従う行を生成。
• 生成中に正しいイambic pentameterおよびABAB/CDCD/EFEF/GG韻型を強制する共同最適化目的関数を採用。
• 言語モデリング能力の向上を図るため、バックグラウンドの詩のコーパスから事前学習済みの単語埋め込みを活用。
• 段階的生成プロセスを採用：まず強調音節を予測し、次に韻を踏む語のペアを生成し、最後に意味的に整合性のある完全な行を構成。

実験結果

リサーチクエスチョン

• RQ1 共同ニューラルモデルは、正しいイambic pentameterおよび韻型を維持しながら、詩的整合性を保ったまま十四行詩を効果的に生成できるか？
• RQ2 クラウドワーカーは、機械生成詩の「人間らしい」程度をどのように評価するか？また、彼らはどの特徴（例：韻、抑揚）に依存しているか？
• RQ3 熟練者による評価は、クラウド評価が見逃す、機械生成詩の限界をどの程度明らかにするか？
• RQ4 抑揚および韻の明示的モデリングは、汎用言語モデルに比べて詩的品質を顕著に向上させるか？
• RQ5 形式的制約（抑揚および韻）に注力することで、熟読性および感情的深さが低下するか？

主な発見

• 強調音節および韻予測モデルは非常に優れた性能を示し、クラウドワーカーによる評価で生成された四行詩は人間の作品とほとんど区別がつかない。
• 全モデル（LM∗∗+PM+RM）を用いた場合、クラウドワーカーは人間の詩と識別する際の正確度が53.2%に達し、形式的およびスタイル的類似性が非常に高いことが示された。
• 熟練者による評価では、全モデルが韻について4.43/5.0、抑揚について4.10/5.0のスコアを獲得し、人間の詩人をわずかに上回る形式的正確性を示した。
• 形式的整合性は高いが、熟読性は2.70/5.0、感情的インパクトは2.90/5.0にとどまり、人間の詩（4.80および4.37）に比べ顕著に低い水準であった。
• 汎用言語モデル（LM）は4.00/5.0の抑揚スコアを達成しており、明示的な抑揚モジュールがなくても、イambic pentameterが暗黙的に学習されている可能性を示唆し、専用の抑揚モジュールの必要性に疑問を呈した。
• 抑揚モジュールを除いたモデル（LM∗∗+RM）も、クラウドワーカーの識別正確度が同じく0.532に達しており、一般の人々の判断において、韻が主な手がかりである一方、抑揚はほとんど無視されていることが示された。