[論文レビュー] A Probabilistic Disambiguation Method Based on Psycholinguistic Principles

Hang Li|ArXiv.org|Jun 13, 1996

Natural Language Processing Techniques参考文献 32被引用数 7

ひとこと要約

本稿では、心理言語学的原則—語彙的好み規則（LPR）、右結合原則（RAP）、低・平行結合原則（ALPP）—を統計的枠組みに統合した確率的句構造の曖昧性解消手法を提案する。LPRには「3語確率」、RAP/ALPPには「長さ確率」を用い、バックオフ戦略で統合することで、構造的更解釈タスクで89.2%の正確性を達成した。

ABSTRACT

We address the problem of structural disambiguation in syntactic parsing. In psycholinguistics, a number of principles of disambiguation have been proposed, notably the Lexical Preference Rule (LPR), the Right Association Principle (RAP), and the Attach Low and Parallel Principle (ALPP) (an extension of RAP). We argue that in order to improve disambiguation results it is necessary to implement these principles on the basis of a probabilistic methodology. We define a `three-word probability' for implementing LPR, and a `length probability' for implementing RAP and ALPP. Furthermore, we adopt the `back-off' method to combine these two types of probabilities. Our experimental results indicate our method to be effective, attaining an accuracy of 89.2%.

研究の動機と目的

• 心理言語学的原則を確率的曇り解消枠組みに統合することで、構文解析の正確性を向上させること。
• 人間の解析好みを統計的手法でモデル化することで、構文解析における構造的曇りを解消すること。
• 複数の心理言語学的ヒューリスティクスを統合した統一的確率モデルを構築し、曇り解消を向上させること。
• 実際のコーパスデータを用いて、認知的解析原則を統計的NLPモデルに統合する有効性を評価すること。

提案手法

• 語彙的好み規則（LPR）の統計的実装として「3語確率」を導入し、特定の動詞-目的語構造に対する好みをモデル化する。
• 右結合原則（RAP）および低・平行結合原則（ALPP）を形式化するための「長さ確率」を定義し、短い結合や平行な構文構造を好む。
• 3語確率や長さ確率のいずれかが利用不可または信頼性が低い場合に備え、バックオフ機構を用いて両者を統合する。
• 訓練および評価に、第4回非常に大規模コーパスワークショップ（WVLC-4）の大型コーパスを用いる。
• 確率的モデルを用いて、解析中の文構造における構文的曇りを解消する。
• アノテート済み訓練データ上で最尤推定を最適化し、確率パラメータを決定する。

実験結果

リサーチクエスチョン

• RQ1 LPR, RAP, ALPPといった心理言語学的原則が、構文的曇り解消のための確率的枠組み内に効果的に形式化可能か。
• RQ2 3語確率と長さ確率の統合的効果は、ベースライン手法と比較して解析正確性をどのように向上させるか。
• RQ3 個々の確率推定が疎らまたは信頼性が低い場合に、バックオフ戦略がどの程度の耐性を発揮するか。
• RQ4 認知的解析ヒューリスティクスを統計的モデルに統合することで、構造的曇り解消正確性に測定可能な向上が得られるか。
• RQ5 未知のデータに対して、本手法は既存の曇り解消技術と比較して、精度および一般化性能においてどの程度優れているか。

主な発見

• 提案手法はWVLC-4コーパス上で89.2%の曇り解消正確性を達成し、優れた性能を示した。
• 心理言語学的原則を確率的モデルに統合することで、ベースライン手法と比較して解析正確性が顕著に向上した。
• バックオフ戦略は、3語確率が利用不可の場合に長さ確率にフォールバックすることで、データの疎らさに対処するのに効果的であった。
• 長さ確率のコンponentは、人間の解析好みに一致する構文構造を効果的にモデル化できており、特に短い結合や平行構造を好む傾向を再現した。
• 3語確率モデルは、強い目的語構造バイアスを示す動詞の語彙的好みを効果的に捉えていた。
• 複数の確率的手がかりを原理的かつ統合的に組み合わせることで、曇りのある構造の処理において耐性を示した。