[论文解读] Content-based Text Categorization using Wikitology

Muhammad Rafi, Sundus Hassan+1 more|arXiv (Cornell University)|Aug 17, 2012

Text and Document Classification Technologies参考文献 14被引用 15

一句话总结

本文提出了一种基于维基逻辑学（Wikitology）——一种基于主题图的知识表示系统——的内容驱动文本分类语义相似度度量方法。通过将文档转换为主题图并基于共现模式相关性计算相似度，该方法在基准数据集上的文本聚类效果优于传统的基于向量的模型。

ABSTRACT

A major computational burden, while performing document clustering, is the calculation of similarity measure between a pair of documents. Similarity measure is a function that assign a real number between 0 and 1 to a pair of documents, depending upon the degree of similarity between them. A value of zero means that the documents are completely dissimilar whereas a value of one indicates that the documents are practically identical. Traditionally, vector-based models have been used for computing the document similarity. The vector-based models represent several features present in documents. These approaches to similarity measures, in general, cannot account for the semantics of the document. Documents written in human languages contain contexts and the words used to describe these contexts are generally semantically related. Motivated by this fact, many researchers have proposed semantic-based similarity measures by utilizing text annotation through external thesauruses like WordNet (a lexical database). In this paper, we define a semantic similarity measure based on documents represented in topic maps. Topic maps are rapidly becoming an industrial standard for knowledge representation with a focus for later search and extraction. The documents are transformed into a topic map based coded knowledge and the similarity between a pair of documents is represented as a correlation between the common patterns. The experimental studies on the text mining datasets reveal that this new similarity measure is more effective as compared to commonly used similarity measures in text clustering.

研究动机与目标

• 解决基于向量的模型在捕捉文档间语义关系方面的局限性。
• 克服文档聚类中相似度计算带来的计算负担。
• 探索主题图作为结构化知识表示在语义相似度中的应用。
• 通过整合外部知识源中的上下文与语义关系，提升文本聚类性能。
• 展示基于主题图中共现模式的新型相似度度量的有效性。

提出的方法

• 使用维基逻辑学（Wikitology）将文档转换为主题图，该系统可提取并组织语义主题及其关系。
• 将每篇文档表示为结构化的知识图谱，其中显式建模实体及其关系。
• 通过计算跨文档中共现模式（重复出现的主题结构）之间的相关性来衡量文档相似度。
• 利用基于主题图的表示，捕捉超越词汇重叠的语义关系。
• 通过模式匹配与结构相似性量化文档间语义对齐的程度。
• 在标准文本挖掘数据集上，将所提出的相似度度量应用于文本聚类流程以评估性能。

实验结果

研究问题

• RQ1 与传统向量模型相比，基于主题图的表示是否能提升文本分类中的语义相似度度量？
• RQ2 主题图中共现模式的相关性是否以有意义的方式反映文档相似度？
• RQ3 所提出的方法在多大程度上减轻了文档聚类中相似度计算的计算负担？
• RQ4 使用维基逻辑学进行知识表示是否提升了基准数据集上的聚类准确率？
• RQ5 该语义相似度度量与余弦相似度和基于WordNet的方法相比表现如何？

主要发现

• 所提出的基于主题图的相似度度量在文本聚类中表现优于传统的基于向量的模型。
• 该方法通过利用维基逻辑学提供的结构化知识，有效捕捉了文档之间的语义关系。
• 在文本挖掘数据集上的实验结果表明，使用新相似度度量可提升聚类准确率。
• 该方法通过强调语义模式与结构相关性，降低了对词汇匹配的依赖。
• 主题图中共现模式的相关性被证明是文档相似度的稳健指标。
• 研究证实，主题图提供了一套可扩展且有效的语义文本分类框架。