[论文解读] A Novel Approach to Document Classification using WordNet

Koushiki Sarkar, Ritwika Law|arXiv (Cornell University)|Jan 1, 2015

Advanced Text Analysis Techniques参考文献 4被引用 3

一句话总结

本文提出了一种新颖的文档分类方法，利用WordNet提升情感分类性能，通过利用语义关系和词义相似性，而非仅依赖词频。通过基于WordNet中路径相似性的加权语义网络构建方法，在传统词袋模型因词汇多样性及情感关键词频率过低而失效的小型文档（如推文或评论）中实现了更优性能。

ABSTRACT

Content based Document Classification is one of the biggest challenges in the context of free text mining. Current algorithms on document classifications mostly rely on cluster analysis based on bag-of-words approach. However that method is still being applied to many modern scientific dilemmas. It has established a strong presence in fields like economics and social science to merit serious attention from the researchers. In this paper we would like to propose and explore an alternative grounded more securely on the dictionary classification and correlatedness of words and phrases. It is expected that application of our existing knowledge about the underlying classification structure may lead to improvement of the classifier's performance.

研究动机与目标

• 解决词袋模型在分类短小、多样化文档时的局限性，尤其在情感关键词缺失或频率过低的情况下。
• 探索利用WordNet的语义结构构建更稳健、知识驱动的分类特征。
• 开发一种利用词义相似性和概念关系（如上下位关系）的分类器，以提升情感分类的准确性。
• 通过经验性调整相似性阈值（tau = 0.8 和 0.2）平衡‘好’与‘坏’情感词集合，实现公平分类。

提出的方法

• 基于WordNet的同义词集（synsets）及其路径相似度得分，构建两个独立的加权词语和短语网络。
• 使用 wn.path_similarity(synset1, synset2) 计算词义之间的语义相似度，相似度范围为0–1，1表示完全相同。
• 采用基于阈值的过滤过程，结合tau值（0.8用于‘好’，0.2用于‘坏’）提取代表性情感词集合。
• 从包含‘Reception’章节的12篇书籍维基百科条目中提取关键词，并将其映射到WordNet同义词集以进行语义分析。
• 通过子串匹配识别相关链接，统计选定情感词在文档内容中的出现频率，构建频率矩阵。
• 引入句法线索（如'but'和'however'）以检测情感反转，对各段落分配{+1, -1}符号，用于情感平均计算。

实验结果

研究问题

• RQ1 与传统词袋模型相比，WordNet中的语义相似性是否能提升文档分类性能，特别是在低频或短文本场景下？
• RQ2 如何利用WordNet中的词义和概念关系（如上下位关系）构建更稳健且平衡的情感特征集合？
• RQ3 引入句法连接词（如'but'、'and'）在多大程度上通过检测情感反转来提升情感分类的准确性？
• RQ4 路径相似性的哪些阈值（tau）能产生平衡且有效的‘好’与‘坏’情感词集合，以支持分类任务？

主要发现

• 所提方法在小型文档（如书籍评论）中实现了性能提升，传统词袋模型因情感关键词频率过低而失效。
• 利用WordNet的路径相似度（例如，path_similarity(hit, slap) = 0.142）识别出语义相关词语，提升了特征表示能力，超越了原始词频的局限。
• 通过经验性调整tau值至0.8（‘好’）和0.2（‘坏’），实现了平衡的情感词集合，避免了分类过程中对某一类别产生偏差。
• 从维基百科条目中提取的频率向量表现出高度稀疏性，表明作者常使用多样化的词汇表达相似情感，验证了语义方法优于基于频率方法的必要性。
• 引入'but'和'however'等句法线索有助于检测情感反转，通过考虑复合句结构提升了分类准确性。
• 对预分类文档中初始情感词集合进行交叉验证，并通过基于WordNet的传播机制进行扩展，显示出在可扩展特征扩展方面的潜力。