[論文レビュー] Using WordNet to Complement Training Information in Text Categorization

Manuel de Buenaga Rodríguez, José María Gómez Hidalgo+1 more|ArXiv.org|Sep 17, 1997

Text and Document Classification Technologies参考文献 18被引用数 130

ひとこと要約

本稿では、ベクトル空間モデルを用いて、WordNetの語彙的データベースを学習ベースのテキスト分類に統合することで、特に低頻度カテゴリにおける性能向上を図る手法を提案する。WordNetからの意味的関係を用いてカテゴリ表現を強化することで、特に希少カテゴリのラベル付き例が少ない状況において、学習のみに依存する手法を著しく上回る性能を達成する。

ABSTRACT

Automatic Text Categorization (TC) is a complex and useful task for many natural language applications, and is usually performed through the use of a set of manually classified documents, a training collection. We suggest the utilization of additional resources like lexical databases to increase the amount of information that TC systems make use of, and thus, to improve their performance. Our approach integrates WordNet information with two training approaches through the Vector Space Model. The training approaches we test are the Rocchio (relevance feedback) and the Widrow-Hoff (machine learning) algorithms. Results obtained from evaluation show that the integration of WordNet clearly outperforms training approaches, and that an integrated technique can effectively address the classification of low frequency categories.

研究の動機と目的

• 訓練データを超える外部語彙的知識の統合により、テキスト分類（TC）の性能を向上させること。
• ラベル付き訓練例が不足するため、低頻度カテゴリで性能が低下する問題に対処すること。
• WordNetがTCシステムにおける訓練コレクションを効果的に補完できるかどうかを評価すること。
• 語彙的リソース（例：WordNet）がベクトル空間モデルにおけるカテゴリ表現をどのように向上させるかを調査すること。
• 意味的データベースを活用することで、大規模な訓練コレクションへの依存を軽減する可能性を検討すること。

提案手法

• ドキュメントおよびカテゴリを重み付き語項ベクトルとして表現するために、ベクトル空間モデルが用いられる。
• カテゴリ表現プロセスにWordNetを統合し、語彙的近傍（類義語、上位概念など）を用いてカテゴリ語項を拡張する。
• 関連性フィードバックに用いるために、Rocchioアルゴリズムを、WordNetで拡張されたカテゴリベクトルを考慮する形に変更する。
• 学習過程において、WordNetから得られる特徴を組み込むように、Widrow-Hoffアルゴリズムを変更する。
• 語項の重みは、ベクトル空間モデルの枠組み内で標準的なTF-IDF重み付け法により計算される。
• 分類スコアは、ドキュメントベクトルとカテゴリベクトル間のコサイン類似度を用いて算出される。

実験結果

リサーチクエスチョン

• RQ1 WordNetを学習ベースのTCシステムに統合することで、全体的な分類性能が向上するか？
• RQ2 WordNetの統合が、訓練データが極めて少ない低頻度カテゴリにおいて、顕著に性能を向上させるか？
• RQ3 WordNetと訓練データを組み合わせた場合と、訓練データのみを使用した場合とを比較した場合、正確性（precision）と再現率（recall）の観点でどのように異なるか？
• RQ4 RocchioとWidrow-Hoffという異なる学習アルゴリズムが、WordNet統合によって得られる性能向上の度合いが異なるのはなぜか？
• RQ5 ラベル付き訓練例が不足する状況において、WordNetのような語彙的データベースが、カテゴリ表現を効果的に支援できるか？

主な発見

• WordNetと訓練データを統合したアプローチは、すべてのカテゴリにおいて訓練のみの手法を上回る性能を示す。
• WordNetを用いることで、低頻度カテゴリの正確性が顕著に向上し、訓練例が極めて少ない場合でも同様に効果を発揮する。
• 組み合わせシステムは希少カテゴリにおいても競争力のある性能を達成しており、データスパarsity問題を効果的に緩和している。
• Widrow-Hoffアルゴリズムは、WordNet統合によってカテゴリごとの性能向上がより一様に得られるのに対し、Rocchioアルゴリズムはそのような均一性に欠ける。
• WordNet統合により、表面的な語項一致を超えた意味的文脈の豊かさがカテゴリ表現に組み込まれる。
• 結果から、語彙的データベースが、テキスト分類において大規模な訓練コレクションへの依存を効果的に低減できる可能性があると示唆される。