[論文レビュー] A Constrained Sequence-to-Sequence Neural Model for Sentence Simplification

Yaoyuan Zhang, Zhenxu Ye+3 more|arXiv (Cornell University)|Apr 7, 2017

Text Readability and Simplification参考文献 13被引用数 17

ひとこと要約

この論文では、語彙レベルの簡素化と制約付き文レベル生成を組み合わせることで、流暢で文法的に正しい、真に簡素化された文を生成する2段階のニューラルシーケンス・ツー・シーケンスモデルを提案する。推論時に特定の簡素化語に制約を課すことで、自動評価および人的評価の両方で強力なベースラインを上回り、簡素化度、流暢さ、読みやすさのスコアが向上した。

ABSTRACT

Sentence simplification reduces semantic complexity to benefit people with language impairments. Previous simplification studies on the sentence level and word level have achieved promising results but also meet great challenges. For sentence-level studies, sentences after simplification are fluent but sometimes are not really simplified. For word-level studies, words are simplified but also have potential grammar errors due to different usages of words before and after simplification. In this paper, we propose a two-step simplification framework by combining both the word-level and the sentence-level simplifications, making use of their corresponding advantages. Based on the two-step framework, we implement a novel constrained neural generation model to simplify sentences given simplified words. The final results on Wikipedia and Simple Wikipedia aligned datasets indicate that our method yields better performance than various baselines.

研究の動機と目的

• 既存の文簡素化モデルが意味的に有意義に簡素化できない、または文法的誤りを含むという限界を解消すること。
• 語彙レベルの簡素化（語彙置換）と文レベルの簡素化（構文的再構成）の長所を統合し、出力品質を向上させること。
• 推論時に必要な簡素化語に制約を課すニューラル生成モデルを開発し、意味的整合性と簡素化の正確性を保証すること。
• 意味的類似性を維持しながら、読みやすさと文法的正しさを向上させること。

提案手法

• 2段階の簡素化フレームワーク：まず、事前に構築された知識ベース（例：PPDB）を用いて、複雑な語をより単純な同義語に置換する。
• 次に、簡素化語を含むように制約されたシーケンス・ツー・シーケンスモデルが、簡素化語を条件として出力を生成する。
• 推論中に単語単位の制約から複数語の制約へと拡張し、アテンションメカニズムとポインタジェネレーターネットワークを用いて入力構造を保持する。
• 指定された簡素化語が生成時に含まれるようにする、変更済みのデコード戦略を採用する。
• WikipediaとSimple Wikipediaの並列データセットをエンド・ツー・エンドで学習し、流暢さ、簡素化度、意味的類似性を最適化する。
• ニューラル機械翻訳の原則を活用するが、同一文や簡素化されていない文の生成を避けるためにハード制約を組み込む。

実験結果

リサーチクエスチョン

• RQ1 語彙レベルと文レベルの簡素化を組み合わせることで、流暢さと文法的正しさの観点から、簡素化文の品質が向上するか？
• RQ2 制約付きseq2seqモデルは、文生成時に特定の簡素化語が含まれることをどれほど効果的に保証できるか？
• RQ3 生成語に制約を課すことで、制約なしのモデルと比較して、読みやすさと意味的保持が向上するか？
• RQ4 2段階フレームワークは、意味的な簡素化を達成しつつ、文法的誤りのリスクを低減できるか？

主な発見

• 制約付きseq2seqモデルはiBLEUスコア20.26を達成し、Moses（BLEU(O,I) 99.62だが簡素化度0.02）やSBMTといったベースラインを顕著に上回った。
• モデルは最高のFlesch読みやすさスコア（FK）12.74を記録し、すべてのベースラインより優れた読みやすさを示した。
• 人的評価では、制約付きseq2seqモデルは意味性で2.81、簡素化度で0.96を記録し、意味性は高かったが文法的誤りが多い語彙置換モデルや他のベースラインを上回った。
• マルチ制約seq2seqモデルはiBLEU 19.87、SARI 33.16を達成し、流暢さと意味的類似性の両面で優れた性能を示した。
• 事例研究により、モデルが正しく簡素化語（例：'hub'を'true'に置換）を挿入し、複雑なフレーズを再構成しており、単純な置換による一般的な文法的誤りを回避していた。
• MosesやSBMTとは異なり、モデルは入力文と同一の文を生成しなかった（それぞれ116件、99件の同一出力を生成）。