[論文レビュー] Integrating a Lexical Database and a Training Collection for Text Categorization

José María Gómez Hidalgo, Manuel de Buenaga Rodríguez|ArXiv.org|Sep 15, 1997

Topic Modeling参考文献 15被引用数 10

ひとこと要約

この論文は、語彙的データベース WordNet と学習データセットを統合することで、テキスト分類のパフォーランスを向上させるアプローチを提案する。WordNet の類義語関係を活用して、代表が不足しているカテゴリの特徴的証拠を強化することで、純粋に WordNet に依存する手法や純粋に学習データに依存する手法よりも優れた性能を達成した。これは、リソース統合が自然言語処理タスクにおける分類精度を顕著に向上させることを示している。

ABSTRACT

Automatic text categorization is a complex and useful task for many natural language processing applications. Recent approaches to text categorization focus more on algorithms than on resources involved in this operation. In contrast to this trend, we present an approach based on the integration of widely available resources as lexical databases and training collections to overcome current limitations of the task. Our approach makes use of WordNet synonymy information to increase evidence for bad trained categories. When testing a direct categorization, a WordNet based one, a training algorithm, and our integrated approach, the latter exhibits a better perfomance than any of the others. Incidentally, WordNet based approach perfomance is comparable with the training approach one.

研究の動機と目的

• 訓練データのスパarsity と語彙リソースの制限によるテキスト分類の限界を解消すること。
• WordNet のような広く利用可能な語彙データベースが、教師あり学習データセットとどのように補完的であるかを調査すること。
• 特に代表が不足している、または「悪い」学習カテゴリに対して分類パフォーマンスを向上させること。
• 語彙的リソースと学習リソースを統合することで、単独で使用する場合よりも優れた結果が得られるかどうかを評価すること。
• 意味的リソースと機械学習を統合することの実現可能性と有効性を、テキスト分類タスクにおいて示すこと。

提案手法

• 本手法は、WordNet の類義語関係を教師あり学習データセットと統合し、特徴表現を豊かにする。
• WordNet からの類義語関係を用いて、訓練例が少ないカテゴリの証拠を拡張する。
• 分布的特徴（学習データセット由来）と意味的特徴（WordNet 由来）を組み合わせたハイブリッド分類モデルを構築する。
• システムは、語彙的および学習ベースの両方の情報源からの証拠を集約してテキスト分類を実行する。
• 単語の意味の解釈と類義語拡張を適用することで、希少または代表が不足しているカテゴリの一般化性能を向上させる。
• WordNet 側のみ、学習データのみ、統合されたアプローチの三者を直接比較して性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 WordNet と学習データセットを統合することで、単独で使用する場合と比較してテキスト分類のパフォーマンスが向上するか？
• RQ2 WordNet に基づく類義語拡張は、リソースが限られたカテゴリにおいて分類精度にどのように影響するか？
• RQ3 語彙的データと学習データを組み合わせることで、より頑健で一般化可能な分類モデルが得られるか？
• RQ4 統合手法が、完全に教師ありまたは完全に語彙的アプローチを上回る程度はどの程度か？
• RQ5 意味的リソースは、テキスト分類タスクにおけるデータスパarsity 問題を緩和できるか？

主な発見

• 統合手法は、WordNet 側のみ、学習データのみの手法と比較して優れたパフォーマンスを達成した。
• WordNet を用いた手法は、学習データに依存する手法と同等の性能を示し、語彙リソースが分類タスクにおいて強く有望であることを示している。
• 統合手法は、代表が不足している、または「悪い」学習カテゴリの証拠を効果的に増強し、その分類精度を向上させた。
• 結果から、語彙データベースと学習データセットを統合することで、全体のシステムの頑健性とパフォーマンスが向上することが明らかになった。
• 本研究は、WordNet のような意味的リソースが、テキスト分類における教師あり学習を意味的に補完できることを確認した。
• 本手法は、訓練データが不十分な低リソースカテゴリにおいても、有望な結果を示している。