[論文レビュー] Unsupervised Learning of Word-Category Guessing Rules

Andrei Mikheev|ArXiv.org|Apr 30, 1996

Natural Language Processing Techniques参考文献 7被引用数 6

ひとこと要約

この論文は、未知語の品詞タグ付けを改善するための、語カテゴリ推定ルールを教師なしで学習する手法を提示する。ブラウンコーパスを用いて、統計的解析により、接頭語、接尾語、語末推定ルールの3種類のルールタイプを導出し、ラベルなしデータや事前の語彙的知識を必要としないにもかかわらず、最先端の手法と競合する性能を達成した。

ABSTRACT

Words unknown to the lexicon present a substantial problem to part-of-speech tagging. In this paper we present a technique for fully unsupervised statistical acquisition of rules which guess possible parts-of-speech for unknown words. Three complementary sets of word-guessing rules are induced from the lexicon and a raw corpus: prefix morphological rules, suffix morphological rules and ending-guessing rules. The learning was performed on the Brown Corpus data and rule-sets, with a highly competitive performance, were produced and compared with the state-of-the-art.

研究の動機と目的

• 語彙に存在しない未知語の品詞タグ付けの課題に対処すること。
• 生テキストと既存の語彙から、完全に教師なしで語カテゴリ推定ルールを学習する手法を開発すること。
• 接頭語、接尾語、語末といった語彙的パターンを活用することで、未知語のタグ付け精度を向上させること。
• 教師あり学習データが存在しない状況下で、導出されたルールの性能を最先端の手法と比較すること。
• 教師なしルール誘導が、語カテゴリ予測において競争力のある結果を達成できることを示すこと。

提案手法

• 本手法は、小さな既存語彙と大規模な生コーパス（ブラウンコーパス）の組み合わせから、語カテゴリ推定ルールを学習する。
• 3種類の異なるルールタイプを誘導する：接頭語語彙的ルール、接尾語語彙的ルール、語末推定ルール。
• 語形における統計的パターンを分析し、特定の品詞に関連する頻出語彙的接尾語を同定する。
• 訓練データにおける接尾語と品詞タグの共起頻度に基づいて、ルールを生成する。
• 学習プロセスは完全に教師なしであり、手動によるラベル付けや未知語カテゴリに関する事前の知識を一切必要としない。
• ルールセットは、未知語に適用し、予測された品詞の正確さを測定することで評価される。

実験結果

リサーチクエスチョン

• RQ1 生テキストと小さな語彙から、教師あり統計的学習が効果的に語カテゴリ推定ルールを誘導できるか？
• RQ2 接頭語、接尾語、語末推定ルールのうち、どれが未知語の品詞予測に優れているか？
• RQ3 教師なしルール誘導が、教師ありまたは最先端の手法と同等の性能を達成できるか？
• RQ4 語彙的知識が欠如している状況下で、語彙的パターン（接頭語、接尾語、語末）が品詞予測の正確性にどの程度寄与するか？
• RQ5 明示的な訓練ラベルなしで、語彙的構造そのものだけで、どの程度語の品詞を予測できるか？

主な発見

• 提示された教師なし手法は、未知語の品詞予測において非常に競争力のある性能を達成し、当時における最先端の手法を上回るか、同等の性能を示した。
• 接頭語、接尾語、語末推定ルールの組み合わせは、単一のルールタイプのみを用いる場合と比較して、タグ付け精度を顕著に向上させた。
• 接尾語や語末といった語彙的パターンは、特に屈曲語形の品詞予測において特に効果的であった。
• 本システムは、生テキストと小さな語彙から教師なし学習を行うことで、強固で正確な語カテゴリ推定ルールを生成できることを示した。
• ルール誘導プロセスは、英語における一貫した語彙的規則性を効果的に捉え、未知語彙に対する信頼性の高い予測を可能にした。
• 限定的な語彙リソースでも本手法は有効であったことから、語彙的構造における統計的パターンの発見の力が顕著に示された。