[論文レビュー] A Flexible POS tagger Using an Automatically Acquired Language Model

Lluı́s Màrquez, Lluís Padró|ArXiv.org|Jul 11, 1997

Natural Language Processing Techniques参考文献 22被引用数 12

ひとこと要約

この論文は、統計的決定木を用いて文脈制約を自動で習得し、n-gramと手作業で書かれた言語ルールと統合する柔軟な品詞タガーを提示する。このシステムは、拡張可能な言語モデルフレームワークを通じて、多様な制約源を動的に組み合わせることで、WSJコーパスにおけるタギング精度を向上させる。

ABSTRACT

We present an algorithm that automatically learns context constraints using statistical decision trees. We then use the acquired constraints in a flexible POS tagger. The tagger is able to use information of any degree: n-grams, automatically learned context constraints, linguistically motivated manually written constraints, etc. The sources and kinds of constraints are unrestricted, and the language model can be easily extended, improving the results. The tagger has been tested and evaluated on the WSJ corpus.

研究の動機と目的

• 複数の種類の言語的制約を柔軟に組み合わせる品詞タガーの開発。
• 統計的決定木を用いてデータから文脈制約を自動で学習すること。
• 新しい制約タイプの追加を容易にする言語モデルの拡張性の確保。
• Wall Street Journal (WSJ) コーパスにおけるタギング精度の向上。
• n-gram、学習された制約、手作業で作成されたルールを統合した統一フレームワークの有効性の実証。

提案手法

• システムは統計的決定木を用いて訓練データから文脈制約を自動で学習する。
• n-gram言語モデルと、自動で習得された制約および手作業で書かれた制約を統合する。
• 制約は品詞タギング意思決定をガイドする確率的ルールとして符号化される。
• 制約源の自由な統合を可能にする柔軟なアーキテクチャを採用する。
• 言語モデルは段階的に拡張可能であり、再訓練を再び行わずに新しい制約タイプの追加が可能である。
• 局所的なn-gramから複雑な学習された依存関係まで、可変な文脈の度合いをサポートする。

実験結果

リサーチクエスチョン

• RQ1 データから文脈制約を自動で学習することで、品詞タギングの性能向上が可能か？
• RQ2 n-gram、学習された制約、手作業で書かれたルールの組み合わせが、1つのタギングフレームワーク内でどの程度効果的に統合できるか？
• RQ3 制約統合の柔軟性が、タギング精度にどの程度寄与するか？
• RQ4 再訓練を再び行わずに、新しい制約タイプを言語モデルに段階的に拡張できるか？
• RQ5 標準ベンチマーク（WSJコーパス）において、従来の品詞タガーと比較して、このシステムはどの程度優れているか？

主な発見

• 複数の制約源を組み合わせることで、WSJコーパスにおけるタギング精度が向上した。
• 意思決定ツリーを介して自動で習得された制約の使用は、ベースラインのn-gramモデルを上回る性能向上をもたらした。
• 言語的根拠に基づいた手作業のルール統合により、タギング結果がさらに向上した。
• 言語モデルは拡張可能であり、システム全体を再トレーニングせずに新しい制約タイプの追加が可能である。
• フレームワークは、n-gram、学習された制約、手作業で書かれたルールといった多様な入力ソースを扱う上で高い柔軟性を示した。
• このアプローチはEACL 1997の会議録で検証され、標準ベンチマーク上で有効性が確認された。