[論文レビュー] Chunk Tagger - Statistical Recognition of Noun Phrases

Wojciech Skut, Thorsten Brants|arXiv (Cornell University)|Jul 17, 1998

Algorithms and Data Compression参考文献 6被引用数 49

ひとこと要約

この論文は、マークフ・モデルを用いて構文的境界、内部構造、名詞句、前置詞句、副詞句のカテゴリを高い正確性で認識する確率的チャンクタッパーを提示する。7種類の記号的タグを用いて語の間の構造的関係を符号化し、POSタグ付きデータ上で条件付きランダムフィールド（CRF）モデルを学習することで、95.5%の構造的タグ付け精度を達成し、基本的な括弧付け手法を著しく上回る。

ABSTRACT

We describe a stochastic approach to partial parsing, i.e., the recognition of syntactic structures of limited depth. The technique utilises Markov Models, but goes beyond usual bracketing approaches, since it is capable of recognising not only the boundaries, but also the internal structure and syntactic category of simple as well as complex NP's, PP's, AP's and adverbials. We compare tagging accuracy for different applications and encoding schemes.

研究の動機と目的

• 言語に依存しない統計的手法を用いて部分解析を行うこと。言語固有の規則に依存せずに構文的構造を認識することを目的とする。
• 最小限の手動アノテーションデータを用いて統計モデルを学習することで、構文的ツリーバンクのブートストラップを可能にすること。
• 単純な括弧付け手法を拡張し、再帰的修飾語や同位語を含む複雑でネストされたフレーズ構造を捉えること。
• マークフ・モデルの状態空間に構造的関係タグとPOSコンテキストを追加することで、解析の正確性を向上させること。
• 小規模な学習コーパス（500～2000文）で十分な正確性を持つチャンキングが可能であり、初期段階のコーパスアノテーションに適していることを実証すること。

提案手法

• 本手法は、POSタグ列 $ t_i $ が与えられたもとで、最も確率の高い構造的タグ列 $ r_i $ をモデル化する。式は $ \mathop{\rm argmax}_{R} P(R|T) = \mathop{\rm argmax}_{R} \prod_{i=1}^{k} P(r_i|r_{i-2},r_{i-1})P(t_i|r_i) $ である。
• 構造的関係は7種類の記号的タグ（$ r_i \in \{0, +, ++, -, --, =, 1\} $）を用いて符号化され、隣接する語間の親子の深さと構文的関係を表す。
• チャンキングを、POSタギングに類似したシーケンスラベルリング問題として扱うが、構造的関係とPOS情報が追加された拡張された状態空間を用いる。
• 条件付きランダムフィールド（CRF）モデルを用いて、構造的タグとPOSタグを同時にモデル化し、ベースラインのマークフ・モデルよりも正確性を向上させる。
• 学習データは、手動でアノテートされたコーパスから得られ、構文的構造がモデル学習のための構造的タグ列に変換されている。
• 本手法は深さ2および深さ3の符号化方式をサポートしており、後者はより複雑でネストされたフレーズの認識を可能にする。

実験結果

リサーチクエスチョン

• RQ1 最小限のアノテーションデータで学習された確率的モデルは、複雑な名詞句、前置詞句、副詞句を高い正確性で認識できるか？
• RQ2 記号的タグを用いて構造的関係を符号化することで、単純な括弧付け手法に比べてチャンキングの正確性がどのように向上するか？
• RQ3 外部の語彙リソースを必要としないマークフ・モデルベースのアプローチは、ドメインや言語を問わずどの程度一般化可能か？
• RQ4 信頼できるチャンキング性能を達成するために必要な最小限の学習データ量はどの程度か？
• RQ5 構造的コンテキスト（例：親の深さと関係タイプ）の組み込みが、フレーズ境界および内部構造認識の正確性にどのように影響するか？

主な発見

• チャンクタッパーは構造的タグのラベル付けで95.5%の正確度を達成し、ベースラインの括弧付け手法を著しく上回る。
• 人為的な前処理なしで、外部チャンク境界のみを測定した場合、システムは全フレーズ境界の93.4%を正しく特定する。
• 簡略化された深さ2の符号化方式を用いることで、フルの深さ3モデル（1000～2000文）に比べて500文の学習で効果的な学習が可能になる。
• POSタグと構造的関係を組み合わせた拡張された状態表現を用いることで、構造的タグ付けの正確度が95%以上に向上する。
• モデルの性能は、複雑な前置修飾語、後置の前置詞句、同位語を含むさまざまなフレーズタイプに対して安定している。
• 本手法はドメインに依存せず、外部語彙リソースを必要としないため、リソースが限られた言語環境に適している。