[论文解读] Machine learning approach for text and document mining

Vishwanath Bijalwan, Pinki Kumari+2 more|arXiv (Cornell University)|Jun 6, 2014

Text and Document Classification Technologies参考文献 13被引用 37

一句话总结

本文提出了一种基于K近邻（KNN）的机器学习方法，用于文本和文档挖掘，重点在于将文本自动分类到预定义类别中。该方法结合信息检索与机器学习技术，对文档进行分类并检索最相关的文档，为单标签和多标签文本分类任务提供了一个实用的框架。

ABSTRACT

Text Categorization (TC), also known as Text Classification, is the task of automatically classifying a set of text documents into different categories from a predefined set. If a document belongs to exactly one of the categories, it is a single-label classification task; otherwise, it is a multi-label classification task. TC uses several tools from Information Retrieval (IR) and Machine Learning (ML) and has received much attention in the last years from both researchers in the academia and industry developers. In this paper, we first categorize the documents using KNN based machine learning approach and then return the most relevant documents.

研究动机与目标

• 开发一种基于KNN的机器学习框架，用于自动化文本和文档分类。
• 通过基于KNN的文本文档分类，提高文档检索的准确性。
• 解决信息检索中的单标签和多标签文本分类问题。
• 整合机器学习与信息检索技术，实现可扩展的文档挖掘。
• 为组织和检索大规模文本集合提供一种实用的、数据驱动的方法。

提出的方法

• 本文采用K近邻（KNN）算法进行文本分类，使用通过特征提取生成的文档向量。
• 文本文档通过TF-IDF或类似加权方案等技术，在向量空间模型中表示。
• 通过基于向量相似性（如余弦相似性）在训练集中识别K个最近邻来执行分类。
• 根据K个最近邻中多数类别的结果分配预测类别。
• 通过分类新输入并基于与已知类别的相似性进行排序，实现最相关文档的检索。
• 通过扩展KNN投票机制，该方法支持单标签和多标签分类。

实验结果

研究问题

• RQ1 基于KNN的方法在将文本文档分类到预定义类别中的有效性如何？
• RQ2 KNN方法是否能在单标签和多标签文本分类任务中实现高准确性？
• RQ3 将KNN与信息检索技术结合，如何提升文档相关性排序性能？
• RQ4 特征表示和相似性度量对分类性能有何影响？
• RQ5 该方法在现实世界应用中，对大规模文本集合的可扩展性如何？

主要发现

• 基于KNN的方法通过在向量空间表示中利用基于相似性的分类，实现了有效的文本分类。
• 通过K个最近邻的多数投票机制，该方法支持单标签和多标签分类。
• 由于分类准确性和基于相似性的排序，文档检索性能得到提升。
• 将机器学习与信息检索技术结合，增强了文档挖掘的可扩展性和准确性。
• 该方法在组织和检索大规模文本集合中的文档方面表现出实际适用性。
• 该系统可适应各种文本分类任务，且仅需极少的重新配置。