[論文レビュー] Pearl: A Probabilistic Chart Parser

David M. Magerman, Mitchell P. Marcus|ArXiv.org|May 3, 1994

Time Series Analysis and Forecasting被引用数 6

ひとこと要約

Pearlは、文脈に応じた条件付き確率を用いて、制限のないテキストにおけるスコアが最も高い解析を選択する確率的チャートパーサーを提示する。部分品詞タギング、未知語のモデル化、解析をパイプラインではなく、入れ違いのフレームワークで統合する。時間非同期で下位から上位へのチャートパーサーを採用し、Earley風の上位から下位への予測を実行することで、ゆるい文法と確率的スコアリングを用いて、堅牢なあいまいさ解消と解析選択を達成する。

ABSTRACT

This paper describes a natural language parsing algorithm for unrestricted text which uses a probability-based scoring function to select the "best" parse of a sentence. The parser, Pearl, is a time-asynchronous bottom-up chart parser with Earley-type top-down prediction which pursues the highest-scoring theory in the chart, where the score of a theory represents the extent to which the context of the sentence predicts that interpretation. This parser differs from previous attempts at stochastic parsers in that it uses a richer form of conditional probabilities based on context to predict likelihood. Pearl also provides a framework for incorporating the results of previous work in part-of-speech assignment, unknown word models, and other probabilistic models of linguistic features into one parsing tool, interleaving these techniques instead of using the traditional pipeline architecture. In preliminary tests, Pearl has been successful at resolving part-of-speech and word (in speech processing) ambiguity, determining categories for unknown words, and selecting correct parses first using a very loosely fitting covering grammar.

研究の動機と目的

• 文脈的証拠に基づく確率的スコアリングを用いて、文の最も可能性の高い解析を選択する解析アルゴリズムを開発すること。
• 部分品詞タギング、未知語のモデル化、その他の言語的特徴を、従来のパイプラインの制限を避ける統一された解析フレームワークに統合すること。
• 文の文脈から得られるより洗練された条件付き確率を活用することで、句構造のあいまいさを解消すること。
• ゆるい文法と確率的信頼スコアリングを組み合わせることで、競合する解析のうち最適なものを選択する有効な手法を提供すること。
• 過去の言語的特徴の確率的モデルの結果を解析プロセスに直接組み込むことができる柔軟なアーキテクチャを提供すること。

提案手法

• 時間非同期で下位から上位へのチャートパーサーを用い、Earley風の上位から下位への予測を実行することで、可能な句構造解析を探索する。
• 文脈が解釈をどの程度予測できるかを反映する確率的関数を用いて、各解析理論のスコアを付与する。
• 周囲の言語的特徴に基づいて句構造の可能性をモデル化するために、文脈に応じた条件付き確率を採用する。
• 部分品詞の割り当て、未知語のモデル化、解析部を逐次処理するのではなく、入れ違いに処理する。
• 部分解析のチャートを維持し、文の文脈からの確率的証拠に基づいてスコアを動的に更新する。
• 文脈的手がかりによって最も支持される解釈を優先し、最終出力としてスコアが最も高い完全な解析を選択する。

実験結果

リサーチクエスチョン

• RQ1 文脈的証拠に基づく確率的スコアリングは、制限のない自然言語テキストにおける解析精度をどの程度向上させ得るか？
• RQ2 部分品詞タギングと未知語のモデル化は、別々の段階として扱うのではなく、解析プロセスにどの程度効果的に統合できるか？
• RQ3 ゆるい文法と確率的スコアリングを組み合わせることで、句構造のあいまいさを堅牢に解消できるか？
• RQ4 文脈に応じた条件付き確率を用いる手法は、単純な確率的モデルと比較して、解析パフォーマンスにどの程度優位性を示すか？
• RQ5 入れ違いの解析アーキテクチャは、従来のパイプラインモデルと比較して、言語的あいまいさの処理においてどのような利点を提供するか？

主な発見

• Pearlは、文脈的確率を用いて各語の最も可能性の高い品詞タグを選択することで、品詞のあいまいさを効果的に解消する。
• 周囲の文法的文脈と確率的推論を活用することで、未知語の句構造カテゴリを効果的に特定する。
• 非常にゆるい文法を用いても、初期テストでは正しく解析される構造が最もスコアが高くなることが確認され、堅牢性が示された。
• 言語的特徴の確率的モデルを解析プロセスに統合することで、独立して処理する場合と比較して、全体の解析精度が向上した。
• 文脈に応じた条件付き確率を用いることで、単純な確率的モデルよりも、句構造の予測がより正確になった。
• 入れ違いのアーキテクチャは、解析中に言語的コンポONENT間のフィードバックを可能にするため、パイプライン手法を上回る性能を示した。