[論文レビュー] A Universal Part-of-Speech Tagset

Slav Petrov, Dipanjan Das+1 more|arXiv (Cornell University)|Apr 11, 2011

Natural Language Processing Techniques参考文献 46被引用数 731

ひとこと要約

本稿は、22ヶ国語の言語間で一貫したNLP研究を可能にするために、12の粗粒度のカテゴリからなる普遍的品詞（POS）タグセットを提案する。このタグセットに25ヶ国語の言語固有のツリーバンクタグセットをマッピングすることで、正解POSタグが不要な状態で、22ヶ国語の言語に対して非教師付き文法誘導を可能にし、投影された普遍的タグのみを用いても競争力のある依存構文解析の正確性を達成した。

ABSTRACT

To facilitate future research in unsupervised induction of syntactic structure and to standardize best-practices, we propose a tagset that consists of twelve universal part-of-speech categories. In addition to the tagset, we develop a mapping from 25 different treebank tagsets to this universal set. As a result, when combined with the original treebank data, this universal tagset and mapping produce a dataset consisting of common parts-of-speech for 22 different languages. We highlight the use of this resource via two experiments, including one that reports competitive accuracies for unsupervised grammar induction without gold standard part-of-speech tags.

研究の動機と目的

• 12の粗粒度のPOSカテゴリからなる普遍的タグセットを定義することで、言語間での品詞タグ付けの標準化を図ること。
• 25の言語固有のツリーバンクタグセットからこの普遍的タグセットへの信頼性の高いマッピングを開発すること。
• 言語間で公平に品詞タグ付けおよび文法誘導のパフォーマンスを比較可能にするために、言語間での一貫性を確保すること。
• 正解POSタグを自動的に投影された普遍的POSタグに置き換えることで、低リソース言語における非教師付き文法誘導を支援すること。
• 言語固有のアノテーションガイドラインへの依存を減らすことで、下流のNLPアプリケーションを支援すること。

提案手法

• 12のカテゴリからなる普遍的POSタグセットを定義：名詞、動詞、形容詞、副詞、代名詞、限定詞、前置詞、数詞、接続詞、副詞句接頭語、ピリオド、およびX（その他）。
• 元のアノテーションガイドラインに基づく操作的定義を用いて、英語、ドイツ語、日本語、中国語を含む25の言語固有のツリーバンクタグセットから普遍的タグセットへのマッピングを構築する。
• 言語間POSマッピングを用いて、正解アノテーションが存在しないターゲット言語に対して、自動的に普遍的POSタグを誘導する。
• 普遍的文法規則（USR）に基づく非教師付き文法誘導フレームワークに普遍的POSタグを適用し、確率的ベイジアンモデルを用いる。
• CoNLL-Xツリーバンク上で、正解の普遍的POSタグと投影された普遍的POSタグの両方を用いて、文法誘導モデルを学習および評価する。
• 句長10以下（標点を除く）の文における有向依存構文解析の正確性を、DMV、PGI、USR-G、USR-Iの各モデルのパフォーマンスと比較する。

実験結果

リサーチクエスチョン

• RQ1 12カテゴリの普遍的POSタグセットは、22の多様な言語に一般化可能であり、一貫したNLP評価を可能にするか？
• RQ2 正解POSタグの代わりに自動的に投影された普遍的POSタグを使用した場合、非教師付き文法誘導のパフォーマンスはどの程度か？
• RQ3 普遍的タグセットは、言語間での品詞タグ付けおよび構文解析の正確性をより信頼性高く比較可能にするか？
• RQ4 投影された普遍的POSタグで学習した文法誘導モデルは、正解の詳細なPOSタグを使用したモデルと同等のパフォーマンスを達成できるか？
• RQ5 普遍的タグセットの使用は、低リソース環境における非教師付き構文解析システムのパフォーマンスにどのような影響を与えるか？

主な発見

• 普遍的POSタグセットとそのマッピングにより、22ヶ国語の言語で共通のタグセットを用いて、品詞タグ付けおよび文法誘導の評価が一貫して可能になった。
• 自動的に投影された普遍的POSタグ（USR-I）を用いた文法誘導は、全8ヶ国語でDMVモデルを上回り、細分化された正解POSタグを使用するPGIモデルと同等のパフォーマンスを達成した。
• USR-Iモデルの有向依存構文解析の正確性は、デンマーク語で41.7％からポルトガル語で70.9％の範囲を示し、正解の普遍的タグを使用するUSR-Gモデル（55.1％～68.3％）に近い性能を示した。
• 元の詳細なタグで学習し、予測結果を普遍的タグにマッピングする（O/U）方法は、普遍的タグセットで直接学習するよりも高い正確性を達成した。これは、普遍的タグセットが遷移モデルにとって情報量が少ないことを示している。
• 普遍的タグセットにより、ターゲット言語にラベル付きデータが一切不要な状態で、効果的な非教師付き文法誘導が可能であることが示された。これは、低リソース環境における実用性を裏付けた。
• 本リソースは、研究およびアプリケーション開発の利用を目的として、http://code.google.com/p/universal-pos-tags/ で公開されている。