[論文レビュー] Shall I Compare Thee to a Machine-Written Sonnet? An Approach to Algorithmic Sonnet Generation

John Benhart, Peter Hase+2 more|arXiv (Cornell University)|Nov 13, 2018

Topic Modeling参考文献 19被引用数 4

ひとこと要約

本論文は、正確な抑揚、韻律、文法的構造を備えたシェイクスピア風十四行詩を生成するためのハイブリッドニューラルおよびルールベースのアプローチを提示する。インラインの標点、品詞制約、および選別された訓練コーパスを統合することで、人間の詩に類似した高品質な詩を生成し、2018年PoetiX文学トレーニングテストで優勝を果たした。これは、形式的正確性と詩的整合性の面で、先行するシステムを上回った。

ABSTRACT

We provide an approach for generating beautiful poetry. Our sonnet-generation algorithm includes several novel elements that improve over the state of the art, leading to metrical, rhyming poetry with many human-like qualities. These novel elements include in-line punctuation, part of speech restrictions, and more appropriate training corpora. Our work is the winner of the 2018 PoetiX Literary Turing Test Award for computer-generated poetry.

研究の動機と目的

• イambic pentameterとABABCDCDEFEFGGの韻律形式に厳密に従うシェイクスピア風十四行詩を生成できるシステムの開発。
• 抑揚、韻律、品詞使用に関するハード制約を組み込むことで、既存の神経詩生成手法を改善すること。
• 標点、文法的正しさ、スタイルの一貫性といった人間らしい特徴を備えた十四行詩の生成。
• 人間の専門家による判断を用いたトレーニングテストの設定で、生成された詩の質を評価すること。
• 神経言語モデルと分野特化ルールを組み合わせることで、純粋に統計的なアプローチよりも言語的および詩的正確性の高い結果が得られることの実証。

提案手法

• 選別されたシェイクスピア風十四行詩コーパスで訓練された神経言語モデルを用い、高い尤度でラインを生成する。
• ビームサーチを適用し、モデル下での尤度を最大化するとともに、抑揚と韻律に関するハード制約を満たすラインを選択する。
• CMU発音辞書を用いて、各単語に非強調（0）と強調（1）のストレスパターンを割り当てることで、イambic pentameterを強制する。
• 連続する名詞や比較級の形容詞と動詞の組み合わせといった不文法的表現を避けるために、品詞に基づくサンプリング制約を適用する。
• 文の構造的明瞭性と詩的リズムの向上を図るため、インラインの標点を明示的にモデル化・生成する。
• ユーザーのプロンプトのGloVe埋め込みと事前に計算された韻のペアとのコサイン類似度に基づき、韻の語を選択することで、テーマ的・音声的整合性を確保する。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドニューラルおよびルールベースのシステムは、イambic pentameterとABABCDCDEFEFGGの韻律形式に厳密に従うシェイクスピア風十四行詩を生成できるか？
• RQ2 品詞制約とインラインの標点は、アルゴリズム的詩生成の文法的・スタイル的質にどのように影響するか？
• RQ3 一般向けテキストと比較して、選別された訓練コーパスが、生成された十四行詩のスタイル的忠実度をどの程度向上できるか？
• RQ4 機械生成された十四行詩は、人間による審査を受ける文学コンペティション、たとえばPoetiX文学トレーニングテストで十分な品質に達することができるか？
• RQ5 抑揚と韻律に関するハード制約とソフト制約を比較すると、詩的正確性と人間の認識の観点で、どちらが優れているか？

主な発見

• 提案手法は、イambic pentameterとABABCDCDEFEFGGの韻律形式に一貫して従う十四行詩を生成でき、抑揚的・韻律的誤りは一切認められなかった。
• 品詞制約により、「人間の存在が子孫を増やす」や「より良いである」のような不文法的表現が効果的に排除された。
• インラインの標点の導入により、このような機能を省略するシステムと比較して、文構造の明瞭性と詩的滑らかさが著しく向上した。
• 2018年PoetiX文学トレーニングテストにおいて、先行する最先端のアプローチを上回り、正しく機械生成であると専門家によって特定されたにもかかわらず、優勝を獲得した。
• 詩の分析に熟達した人間の審査員は、すべての機械生成詩を人間の詩と区別できたが、それでも依然としてこのシステムに最高賞を与えた。これは、高い認識された詩的質を示している。
• ハード制約と選別された訓練データの使用により、ソフト制約や関連性の低いコーパスに依存するシステムと比較して、より高いライン尤度と形式的正確性が得られた。