[論文レビュー] Stochastic HPSG

C. Brew|arXiv (Cornell University)|Feb 17, 1995

Natural Language Processing Techniques被引用数 29

ひとこと要約

この論文は、頭部駆動文法的構造体系（HPSG）における型付き特徴構造に対して確率的解釈を導入し、再帰的構造を扱えるように拡張する。コーパスを用いた数値的パラメータ推定アルゴリズムを提案することで、形式的言語学的正確性を保ちつつ構文構造の統計的モデリングを可能にする。

ABSTRACT

In this paper we provide a probabilistic interpretation for typed feature structures very similar to those used by Pollard and Sag. We begin with a version of the interpretation which lacks a treatment of re-entrant feature structures, then provide an extended interpretation which allows them. We sketch algorithms allowing the numerical parameters of our probabilistic interpretations of HPSG to be estimated from corpora.

研究の動機と目的

• ポラードとサグの枠組みに類似した、HPSGで用いられる型付き特徴構造に対する確率的解釈の開発。
• 言語的分析で一般的な再帰的特徴構造を扱えるように、確率的解釈を拡張すること。
• アノテート済みコーパスから確率的HPSGモデルの数値的パラメータを推定するためのアルゴリズムの提供。
• 形式的言語学的表現力が保たれる一方で、構文構造の統計的モデリングを可能にすること。

提案手法

• 型付き特徴構造に確率的枠組みを採用し、特徴構造の構成に確率を割り当てる。
• 特徴構造の型とその制約が確率分布に関連付けられたパrameterizedモデルを導入する。
• 共有参照を考慮するために特徴パス上の確率分布を変更することで、再帰的構造をサポートするようにモデルを拡張する。
• コーパスデータに基づいた推論およびパラメータ推定アルゴリズムを提案し、最尤推定や類似の原則を用いる。
• 反復的手法を用いて構文アノテーションからパラメータを推定し、観察された言語的構造と整合性を保つ。
• 訓練コーパスからのパラメータ学習を導くために、特徴構造木上の尤度関数を定義する。

実験結果

リサーチクエスチョン

• RQ1 再帰的構造なしで、HPSGにおける型付き特徴構造に一貫した確率的解釈を割り当てる方法は何か？
• RQ2 再帰的特徴構造を扱えるように確率的解釈を拡張するには、どのような修正が必要か？
• RQ3 確率的HPSGモデルの数値的パラメータは、言語コーパスから信頼性高く推定可能か？
• RQ4 この枠組みで効率的かつ正確なパラメータ推定を可能にするアルゴリズム的アプローチは何か？

主な発見

• 論文は、再帰的特徴構造を扱えるように確率的HPSGを成功裏に拡張し、言語的整合性を保った。
• 特徴構造に確率を割り当てる形式的枠組みが確立され、統計的推論が可能になった。
• 実際のコーパスデータに適用可能なパラメータ推定アルゴリズムが提案された。
• HPSGの形式的構造が保たれる一方で、パラメータ学習による統計的頑健性が導入された。