[論文レビュー] Learning to Paraphrase: An Unsupervised Approach Using Multiple-Sequence Alignment

Regina Barzilay, Lillian Lee|ArXiv.org|Apr 2, 2003

Natural Language Processing Techniques参考文献 21被引用数 96

ひとこと要約

本稿では、同一出来事について報じた2つの報道機関の比較的コーパス（新聞記事）を用いて、複数文書アラインメント（MSA）を用いた教師なしアプローチを提示する。構造的に類似した文のペアから語彙ラティスを構築し、コーパス間で類義語ペアを特定することで、柔軟で一般化可能な類義語化パターンを学習し、未学習の文に対しても正確な類義語文を生成する。意味の保存性においてベースライン手法を上回る性能を示した。

ABSTRACT

We address the text-to-text generation problem of sentence-level paraphrasing -- a phenomenon distinct from and more difficult than word- or phrase-level paraphrasing. Our approach applies multiple-sequence alignment to sentences gathered from unannotated comparable corpora: it learns a set of paraphrasing patterns represented by word lattice pairs and automatically determines how to apply these patterns to rewrite new sentences. The results of our evaluation experiments show that the system derives accurate paraphrases, outperforming baseline systems.

研究の動機と目的

• 並列コーパスや意味的知識に依存しない、知識を必要としない教師なしの文単位類義語生成手法を開発すること。
• 同じ出来事について報じた異なる出典の新聞記事から成る比較的コーパス内の構造的に類似した文から、類義語化パターンを特定し、学習すること。
• ラティスベースのマッチングを用いて、未学習の入力文を再書き直すために関連する類義語化パターンを自動的に選択可能にする仕組みを提供すること。
• 固定されたテンプレートベースや語彙レベルの類義語化にとどまらず、文全体の構造的・語彙的変化を捉えることで、一般化を図ること。
• 非平行データから得られるMSAラティスが、リソースが限られる環境やドメイン特化した状況でも、類義語の表現と生成に効果的に機能することを示すこと。

提案手法

• 各比較的コーパス内での構造的に類似した文のグループから語彙ラティスを構築し、共通する構文的・語彙的パターンを効率的に表現する。
• 複数文書アラインメント（MSA）を用いて、2つの異なるコーパスのラティスを比較し、共有される構文的・意味的構造に基づいて類義語ペアを同定する。
• 入力文を訓練データ内の最も類似したラティスと照合し、他方のコーパスのアラインメント済みラティスから対応する類義語化パターンを適用する。
• ラティス表現の柔軟性を活かし、事前に定義されたテンプレートや構文解析を必要とせずに、語彙置換と構造的再表現の両方を処理できる。
• 特に1つのコーパスしか利用できない状況でも意味的同等性を保証するため、ラティスペアの選択を慎重に行う戦略を採用する。
• 評価段階では再現率よりも正確性を最適化するようにシステムパラメータを調整し、意味を保存する類義語文の生成を優先する。

実験結果

リサーチクエスチョン

• RQ1 意味的アノテーションなしで、アノテートされていない非平行な比較的コーパスから、文単位の類義語を効果的に学習できるか？
• RQ2 直接的な文アラインメントが不可能な状況下で、複数文書アラインメント（MSA）をどのように用いて、複数のコーパス間で類義語ペアを同定できるか？
• RQ3 ラティスベースの表現は、学習データに存在しない未学習の文に対しても、どの程度一般化可能か？
• RQ4 意味の保存性という観点から、教師なしMSAベースのシステムは、テンプレートベースやベースラインの類義語生成手法と比べて、どの程度優れているか？
• RQ5 特に長文や独自性の高いテキストセグメントにおいて、システムのカバレッジと一般化能力に影響を与える要因は何か？

主な発見

• 本システムは、AFPニュース記事のホールドアウトテストセットに含まれる484文のうち59文（12.2％）を正しく類義語化し、ベースラインシステムを顕著に上回った。
• 固有名の置換後、類義語化された59文のうちわずか7文が訓練データに存在しており、正確な一致を超えた強力な一般化能力を示した。
• 2名の評価者による意味保存性の合意率は、それぞれ81.4％と78％を記録した。これは、ベースラインシステムの69.5％と66.1％を上回り、優れた性能を示した。
• 記事の長さによるカバレッジの差異が認められた：短い記事（≤10文）では60.8％の文が類義語化されたが、長い記事では9.3％にまで低下した。これは、個人的ナラティブのような独自コンテンツが原因であった。
• 2つのシステムが直交的なタイプの誤りを犯しており、MSAベースの手法がテンプレートベースのベースラインとは異なる類義語化パターンを捉えていることが示唆された。
• 非平行な比較的コーパスからのMSAラティスの使用により、並列データや外部知識リソースがなくても、効果的な類義語生成が可能であることが実証された。