[論文レビュー] Universal Model for Paraphrasing -- Using Transformation Based on a Defined Criteria --

Masaki Murata, Hitoshi Isahara|ArXiv.org|Dec 5, 2001

Natural Language Processing Techniques参考文献 9被引用数 19

ひとこと要約

本稿では、ルールベースの変換とコーパスベースの評価を用いて、類似度、長さ、頻度、文法的妥当性といった異なる変換基準を適用することで、多様な言い換えを生成する汎用的言い換えモデルを提案する。このシステムは、文の圧縮、磨き上げ、話言語への変換、質問応答といった複数の言い換えタスクを成功裏に実装しており、話言語変換実験では誤った変換が一切発生せず、モデルの多様性と自然言語処理アプリケーションへの再利用可能性を示している。

ABSTRACT

This paper describes a universal model for paraphrasing that transforms according to defined criteria. We showed that by using different criteria we could construct different kinds of paraphrasing systems including one for answering questions, one for compressing sentences, one for polishing up, and one for transforming written language to spoken language.

研究の動機と目的

• 同じ適応可能なモデルを用いて複数の自然言語処理タスクをサポートする汎用フレームワークの開発。
• 各タスクごとに再構築しなくてもよい、多様な言い換えシステムを構築する課題への対処。
• コアな変換ルールを変更せずに評価基準を変更するだけで、言い換えシステムの容易な適応化を可能にする。
• 質問応答、文の圧縮、書言語から話言語への変換といった異なる言い換えタイプにおけるモデルの有効性の検証。
• コーパスベースの頻度とルールベースの変換が併用されることで、意味を保持した正確な言い換えが可能になることの検証。

提案手法

• モデルは2モジュール構造を採用：手書きまたは自動抽出されたルールを用いて候補となる再表現を生成する変換モジュールと、事前に定義された基準に基づいて最良の変換を選択する評価モジュール。
• 変換ルールは意味を保存するように制限されており、定義上すべての再表現が言い換えとなる。
• 評価モジュールは、意味的類似度、文の長さ、コーパス内頻度、文法的妥当性といった基準を用いて変換を選択する。
• 頻度ベースの評価では、コーパス内での語形の出現回数（例：'summarization' 対 'summarisation'）を比較し、より一般的で自然な形を優先する。
• 話言語変換では、話言語コーパスを用いて、日本語の話言語で一般的な表現（例：'ma' や 'toiu'）を優先する。
• 機械翻訳をサポートするため、翻訳ルールを適用し、翻訳言語のコーパスを用いて確率スコアを算出する。

実験結果

リサーチクエスチョン

• RQ1 評価基準を変えるだけで、同じモデルアーキテクチャが複数の言い換えタイプをサポートできるか？
• RQ2 意味を保持しつつ多様な言い換えタイプを可能にするために、変換ルールはどのように設計すべきか？
• RQ3 コーパス頻度をどの程度活用すれば、文の品質、文法的妥当性、自然さが向上するか？
• RQ4 同じ変換ルールを、最小限の再設定で複数の言い換えタスクに再利用できるか？
• RQ5 誤りを引き起こさずに、書言語を話言語に変換する際のモデルの有効性はどの程度か？

主な発見

• 同じコアな変換ルールを用いて、質問応答、文の圧縮、文の磨き上げ、書言語から話言語への変換という4つの異なるタスクで、すべての言い換えを成功裏に生成した。
• 話言語変換実験では、誤った変換が一切発生せず、'ma' や 'toiu' といった自然な話言語特有の特徴を含む出力が得られた。
• 話言語変換においてリCALL率が低かったことから、高精度であるものの、より包括的なルールセットの必要性が示された。
• 頻度ベースの基準の活用により、コーパス内での頻度が高い場合に 'summarisation' を 'summarization' に変換するなど、文の品質向上が明確に見られた。
• モデルは再利用性を示した。変換ルールなどのコンponentsは、評価基準を変更するだけで、タスク間で再利用可能であった。
• ルールベースの変換とコーパスベースの評価の統合により、多様な言語的スタイルやドメインにわたり、意味を保持した堅牢な言い換えが可能になった。