[論文レビュー] Some Advances in Transformation-Based Part of Speech Tagging

Eric Brill|ArXiv.org|Jun 2, 1994

Natural Language Processing Techniques参考文献 14被引用数 279

ひとこと要約

この論文は、変換ベースでルールベースの品詞タギング手法を拡張し、未知語の精度向上、語彙的関係の統合、k-bestタギングのサポートを実現した。誤差駆動学習を用いることで、250のルールのみで既知語では96.5%、k-bestタギングでは99.1%の精度を達成。統計的モデルと同等またはそれを上回る性能を発揮しながら、大規模な確率的テーブルではなく、少数で解釈可能なルールの集合に言語的知識を埋め込んでいる。

ABSTRACT

Most recent research in trainable part of speech taggers has explored stochastic tagging. While these taggers obtain high accuracy, linguistic information is captured indirectly, typically in tens of thousands of lexical and contextual probabilities. In [Brill92], a trainable rule-based tagger was described that obtained performance comparable to that of stochastic taggers, but captured relevant linguistic information in a small number of simple non-stochastic rules. In this paper, we describe a number of extensions to this rule-based tagger. First, we describe a method for expressing lexical relations in tagging that are not captured by stochastic taggers. Next, we show a rule-based approach to tagging unknown words. Finally, we show how the tagger can be extended into a k-best tagger, where multiple tags can be assigned to words in some cases of uncertainty.

研究の動機と目的

• 統計的モデルよりも言語的知識をより直接的に捉えることができるルールベース品詞タガーの開発。
• 標準的な統計的タガーでは表現できない語彙的関係をモデル化できるように、変換ベース学習を拡張すること。
• 事前に定義されたルールやコーパス固有の特徴なしに、未知語の正確なタギングを可能にすること。
• 1語に対して複数のタグ（k-bestタギング）を許容することで、不確実性下での精度向上を実現すること。
• ルールベースシステムが、はるかに少ないパラメータで統計的タガーと同等またはそれを上回る精度を達成できることを示すこと。

提案手法

• タガーは変換ベースの誤差駆動学習を採用しており、訓練コーパス上でタギング精度を最も向上させる変換を繰り返し選択することでルールを学習する。
• 変換は固定順序で適用され、隣接語のタグや語彙的特徴などの文脈に基づいてタグを変更する。
• 未知語タギングのため、大文字化、接尾語、語の形状に基づいて品詞を推論するルールを学習するが、事前に定義された特徴は使用しない。
• 語彙的関係は、共通する文法的または意味的性質に基づいて語を関連付けるルールによって捉え、標準的な文脈依存ルールを超える。
• k-bestタギングのため、変換を変更し、タグを置き換えるのではなく、代替タグを語に追加するようにする。これにより不確実性下でのカバレッジが向上する。
• 学習プロセスは、精度と1語あたりの平均タグ数のトレードオフを最適化するために、独自のスコア関数を用いる。

実験結果

リサーチクエスチョン

• RQ1 ルールベースタギングシステムは、統計的タガーでは表現できない語彙的関係を効果的にモデル化できるか？
• RQ2 事前に定義された語彙的またはコーパス固有の特徴なしに、変換ベースタガーが未知語に対して高い精度を達成できるか？
• RQ3 k-bestタギングはルールベースシステムに効果的に実装可能で、タグ数の増加を最小限に抑えながら精度を向上させられるか？
• RQ4 精度とパrameter効率の観点から、ルールベースタガーは統計的モデルと比較してどの程度の性能を示すか？
• RQ5 誤差駆動ルール学習は、確率的モデルよりも言語的知識をより直接的に捉えるために拡張可能か？

主な発見

• ルールベースタガーは、オープンボキャブラリー仮定下でPenn Treebankコーパスで全体で96.5%のタギング精度を達成し、最先端の統計的モデルと同等の性能を示した。
• k-bestタギングを用いることで、わずか250のルールで99.1%の精度を達成し、1語あたりの平均タグ数は1.5に保った。これはベースライン手法よりも顕著に低い。
• k-best拡張により、タグ数の平均が50%増加するにとどまり、精度は96.5%から99.1%に上昇した。これは、精度向上に非常に高い効率性を示している。
• 99.0%の精度を達成するためには2.28タグ/語を必要とした統計的ベースラインと比較し、本手法はタグ効率が優れていた。
• 未知語タギングにはたった148のルールで言語的情報を捉えることができ、統計的モデルの1,000以上のパラメータと比較して、極めて簡潔で解釈可能であることが示された。
• 事前に特徴を定義せず、データ駆動型ルール誘導に依存することで、語彙的関係と語形パターンを効果的にモデル化した。