[論文レビュー] Sentence Compression in Spanish driven by Discourse Segmentation and Language Models

Alejandro Molina-Villegas, Juan‐Manuel Torres‐Moreno+3 more|arXiv (Cornell University)|Dec 14, 2012

Natural Language Processing Techniques参考文献 21被引用数 3

ひとこと要約

本稿では、話題構造の分割と言語モデルを活用して文法的に整合的で簡潔な要約を生成するスペイン語向けの文の圧縮手法を提案する。文を基本的話題単位（EDU）に分割し、EDUの削除によって圧縮候補を生成し、統計的言語モデルを用いて最も確率の高い候補を選択することで、圧縮文のなめらかさと整合性が向上し、スペイン語のテキスト要約タスクにおいて優れた性能を示している。

ABSTRACT

Previous works demonstrated that Automatic Text Summarization (ATS) by sentences extraction may be improved using sentence compression. In this work we present a sentence compressions approach guided by level-sentence discourse segmentation and probabilistic language models (LM). The results presented here show that the proposed solution is able to generate coherent summaries with grammatical compressed sentences. The approach is simple enough to be transposed into other languages.

研究の動機と目的

• 文レベルの圧縮を向上させることで、スペイン語における自動要約の性能を向上させること。
• 話題構造を統合することで、文の圧縮における文法的正しさと整合性の問題を解決すること。
• 基本的話題単位（EDU）への話題構造の分割を活用することで、圧縮の解候補空間を縮小すること。
• 統計的言語モデルを用いて圧縮候補を評価し、最も自然に聞こえる出力を選択すること。
• 言語資源が限られている他の言語に対しても適用可能な手法の開発

提案手法

• 本手法は、修辞的構造理論に基づく浅い話題構造セグメンテーション器を用いて、入力文を基本的話題単位（EDU）に分割することから始める。
• すべての可能な圧縮候補は、EDUの部分集合を削除することで生成され、元の順序を保ったまま、k個のEDUに対しては2^k - 1個の候補が得られる。
• 元の文は常に候補として含まれる（CC₀）ため、少なくとも1つの有効な出力が保証される。
• 各候補は、圧縮文が自然言語の系列としてどの程度確率が高いかを推定する統計的言語モデルによってスコア付けされる。
• 言語モデル確率が最も高い候補が最終的な圧縮文として選択される。
• 本手法は、言語資源が限られている言語に対しても軽量かつ柔軟に適応可能であるように設計されている。

実験結果

リサーチクエスチョン

• RQ1 話題構造の分割は、スペイン語の文の圧縮における文法的品質と整合性を向上させることができるか？
• RQ2 ヒューリスティック法やルールベース手法と比較して、言語モデルを用いて圧縮候補をランク付けすることはどの程度有効か？
• RQ3 EDUに文を分割することで、意味のある圧縮選択肢を保ちながら、探索空間はどの程度縮小されるか？
• RQ4 短いまたは単純な文に対しても、本手法はなめらかで自然な響きの圧縮文を生成できるか？
• RQ5 話題解析リソースが限られている他の言語に対しても、本手法は汎用可能か？

主な発見

• 話題構造と言語モデルを活用することで、文法的に正しいかつ整合性のある圧縮文を効果的に生成できた。
• 話題構造の分割により、潜在的に巨大な語彙レベルの組み合わせから、EDUに基づく管理可能な候補集合にまで候補数が削減され、処理効率が向上した。
• 言語モデルは候補のランク付けを効果的に行い、より自然でなめらかな圧縮出力を優遇した。
• 元の文を有効な候補として常に保持することで、意味のある圧縮が不可能な場合でも、手法の堅牢性が保証された。
• 話題構造の分割と統計的言語モデルに依存しているため、他の言語への応用可能性が顕著に示された。
• 結果として、特に複雑な文において、話題に配慮した圧縮は語彙レベルの圧縮を上回るなめらかさと文法的正しさを達成した。