[论文解读] Integrating a Lexical Database and a Training Collection for Text Categorization

José María Gómez Hidalgo, Manuel de Buenaga Rodríguez|ArXiv.org|Sep 15, 1997

Topic Modeling参考文献 15被引用 10

一句话总结

本文提出了一种集成方法，将WordNet的词汇数据库与训练数据集相结合，以提升文本分类性能。通过利用WordNet的同义关系，增强低频类别中的特征证据，该方法在性能上优于纯基于WordNet或纯基于训练数据的方法，表明资源集成能显著提升自然语言处理任务中的分类准确率。

ABSTRACT

Automatic text categorization is a complex and useful task for many natural language processing applications. Recent approaches to text categorization focus more on algorithms than on resources involved in this operation. In contrast to this trend, we present an approach based on the integration of widely available resources as lexical databases and training collections to overcome current limitations of the task. Our approach makes use of WordNet synonymy information to increase evidence for bad trained categories. When testing a direct categorization, a WordNet based one, a training algorithm, and our integrated approach, the latter exhibits a better perfomance than any of the others. Incidentally, WordNet based approach perfomance is comparable with the training approach one.

研究动机与目标

• 解决因训练数据稀疏和词汇资源有限而导致的文本分类局限性。
• 探讨广泛可用的词汇数据库（如WordNet）如何补充监督式训练数据集。
• 提升分类性能，特别是针对代表性不足或‘不良’训练类别的表现。
• 评估将词汇资源与训练资源结合是否优于单独使用任一资源。
• 证明在文本分类中结合语义资源与机器学习方法的可行性和有效性。

提出的方法

• 该方法将WordNet的同义关系信息与监督式训练数据集结合，以丰富特征表示。
• 利用WordNet中的同义关系扩展训练样本较少类别的证据。
• 采用混合分类模型，结合训练数据集的分布特征与WordNet的语义特征。
• 通过聚合来自词汇资源和训练数据源的证据，执行文本分类。
• 应用词义消歧与同义词扩展，以提升模型泛化能力，尤其针对罕见或代表性不足的类别。
• 通过直接比较WordNet单一方法、训练数据单一方法与集成方法，评估性能表现。

实验结果

研究问题

• RQ1 与单独使用任一资源相比，将WordNet与训练数据集结合是否能提升文本分类性能？
• RQ2 基于WordNet的同义词扩展对分类准确率有何影响，特别是在低资源类别中？
• RQ3 结合词汇与训练数据是否能构建更稳健且更具泛化能力的分类模型？
• RQ4 集成方法在多大程度上优于纯粹的监督方法或纯粹的词汇方法？
• RQ5 语义资源能否缓解文本分类任务中的数据稀疏问题？

主要发现

• 集成方法在性能上优于纯WordNet方法与纯训练数据方法。
• 基于WordNet的方法性能与基于训练数据的方法相当，表明词汇资源在分类任务中具有强大潜力。
• 集成方法有效增强了代表性不足或‘不良’训练类别的证据，提升了其分类准确率。
• 结果表明，将词汇数据库与训练数据集结合可显著提升系统整体鲁棒性与性能。
• 本研究证实，像WordNet这样的语义资源可有意义地补充监督学习在文本分类中的应用。
• 该方法在低资源类别中表现出潜力，尤其在训练数据不足以支持可靠学习的情况下。