[論文レビュー] An Iterative Polishing Framework based on Quality Aware Masked Language Model for Chinese Poetry Generation

Liming Deng, Jie Wang+6 more|arXiv (Cornell University)|Nov 29, 2019

Natural Language Processing Techniques参考文献 32被引用数 4

ひとこと要約

本稿では、品質に配慮したマスクド言語モデル（QA-MLM）を用いた反復的磨き上げフレームワークを提案し、マルチタスク学習により詩の品質を向上させる。フレームワークはエンコーダ・デコーダモデルでドラフトを生成し、文脈的な予測を用いて低品質な文字を特定・置換することで反復的に改善する。詩が品質基準を満たすと自動的に終了する。人間評価において、滑らかさ、一貫性、芸術的質の向上が顕著に見られた。

ABSTRACT

Owing to its unique literal and aesthetical characteristics, automatic generation of Chinese poetry is still challenging in Artificial Intelligence, which can hardly be straightforwardly realized by end-to-end methods. In this paper, we propose a novel iterative polishing framework for highly qualified Chinese poetry generation. In the first stage, an encoder-decoder structure is utilized to generate a poem draft. Afterwards, our proposed Quality-Aware Masked Language Model (QAMLM) is employed to polish the draft towards higher quality in terms of linguistics and literalness. Based on a multi-task learning scheme, QA-MLM is able to determine whether polishing is needed based on the poem draft. Furthermore, QAMLM is able to localize improper characters of the poem draft and substitute with newly predicted ones accordingly. Benefited from the masked language model structure, QAMLM incorporates global context information into the polishing process, which can obtain more appropriate polishing results than the unidirectional sequential decoding. Moreover, the iterative polishing process will be terminated automatically when QA-MLM regards the processed poem as a qualified one. Both human and automatic evaluation have been conducted, and the results demonstrate that our approach is effective to improve the performance of encoder-decoder structure.

研究の動機と目的

• 神経的生成モデルを用いた一貫性があり意味的で芸術的に高品質な中国語詩を生成する課題に対処すること。
• 詩のドラフトを反復的に改善するプロセスを模倣することで、人間の詩的作業プロセスを再現すること。
• 磨き上げが必要かどうか、どのトークンを変更すべきか、そしてより高品質な代替表現にどのように置き換えるかを自律的に決定するシステムを開発すること。
• 一方向的デコードの限界を補うために、より良いトークン予測のための双方向的文脈を活用すること。
• 生成された詩が所定の基準を満たした時点で磨き上げプロセスを自動的に終了すること。

提案手法

• 事前学習済みBERTとトランスフォーマー・デコーダを組み合わせたエンコーダ・デコーダモデルが、初期の詩ドラフトを生成する。
• QA-MLMはマルチタスク学習スキームを用いて訓練され、トークンの品質とマスクされたトークンの両方を予測する。
• QA-MLMはドラフト内の低品質な文字を特定し、左右の完全な文脈を用いて文脈的に適切な代替表現に置き換える。
• 磨き上げプロセスは反復的であり、QA-MLMが詩を「適格」と分類した時点で自動的に終了する。
• モデルはBERTの双方向注意メカニズムを活用してグローバルな文脈を捉え、一方向的デコードを上回る意味的・構文的整合性を向上させる。
• フレームワークは生成後処理として、さまざまなエンコーダ・デコーダベースラインの出力を精錬する。元の生成プロセスを変更することなく、品質を向上させる。

実験結果

リサーチクエスチョン

• RQ1 マルチタスクマスクド言語モデルは、生成された中国語詩のドラフトの品質を効果的に評価できるか？
• RQ2 グローバルな文脈を用いて、モデルは詩のドラフト内の低品質な文字を正確に特定・置換できるか？
• RQ3 自動終了を伴う反復的磨き上げは、エンド・トゥ・エンド生成と比較して意味的整合性と芸術的質を向上させるか？
• RQ4 QA-MLMフレームワークは、ベースラインモデルと比較して、滑らかさ、意味的整合性、芸術的質をどの程度向上させるか？
• RQ5 精錬段階で双方向的文脈を統合することで、一方向的デコードに比べて詩生成においてどの程度優れた性能を発揮するか？

主な発見

• 人間評価の結果、QA-MLMの磨き上げフレームワークは、ベースラインモデルと比較して、滑らかさ、一貫性、意味的整合性、芸術的質のすべてにおいて顕著に詩の品質を向上させた。
• 類似度、トーンレベル、リズムの正確性といった自動評価指標も、特にAS2SやCVAE-Dのようなモデルでは磨き上げ後に向上したが、B&Tは意味的品質のためのトレードオフによりトーンとリズムがわずかに低下した。
• BLEUスコアの向上は限定的であり、自動評価指標が高品質な詩の評価に不十分であることを示しており、すべてのトークンの変更を平均化するための限界がある。
• QA-MLMモデルは低品質な文字を効果的に特定し、文脈的に適切な表現に置き換えた。わずかな編集でも顕著な質の向上が見られた。
• 反復的磨き上げプロセスは、詩が品質基準を満たした時点で自動的に終了し、テキスト精錬における自己評価の可能性を実証した。
• 人間評価において、すべてのベースラインエンコーダ・デコーダモデルを上回った。QA-MLMが文脈に配慮した精錬により、意味的・文学的質を効果的に向上させたことが確認された。