[论文解读] Class Imbalance Problem in Data Mining Review

Rushi Longadge, Snehalata Dongre|arXiv (Cornell University)|May 8, 2013

Imbalanced Data Classification Techniques参考文献 21被引用 448

一句话总结

本文对数据挖掘中的类别不平衡问题提供了全面综述，分析了三种主要方法——算法方法、数据预处理和特征选择，以应对少数类误分类的挑战。文章评估了这些方法的优势与局限性，为研究人员在机器学习应用中处理不平衡数据集的未来工作提供了结构化基础。

ABSTRACT

In last few years there are major changes and evolution has been done on classification of data. As the application area of technology is increases the size of data also increases. Classification of data becomes difficult because of unbounded size and imbalance nature of data. Class imbalance problem become greatest issue in data mining. Imbalance problem occur where one of the two classes having more sample than other classes. The most of algorithm are more focusing on classification of major sample while ignoring or misclassifying minority sample. The minority samples are those that rarely occur but very important. There are different methods available for classification of imbalance data set which is divided into three main categories, the algorithmic approach, data-preprocessing approach and feature selection approach. Each of this technique has their own advantages and disadvantages. In this paper systematic study of each approach is define which gives the right direction for research in class imbalance problem.

研究动机与目标

• 系统分析数据挖掘中因数据集偏斜导致少数类常被误分类的类别不平衡问题。
• 考察三种主要解决方案类别：算法方法、数据预处理和特征选择技术。
• 评估每种方法的优势与局限性，以指导未来在处理不平衡数据方面的研究。
• 提供一个结构化概述，支持研究人员根据具体不平衡数据场景选择合适的方法。

提出的方法

• 将现有解决类别不平衡的方法分类为三大类：算法方法、数据预处理和特征选择方法。
• 综述通过修改学习算法以在训练期间优先考虑少数类样本的算法方法。
• 分析如SMOTE等过采样和欠采样等数据预处理技术，以重新平衡类别分布。
• 考察旨在通过聚焦不平衡数据集中相关特征来提升分类器性能的特征选择方法。
• 基于报告的性能指标和应用场景，比较各类方法的有效性。
• 将研究发现整合为一个连贯的框架，供研究人员根据数据集特征选择和调整方法。

实验结果

研究问题

• RQ1 类别不平衡在数据挖掘应用中的主要成因和影响是什么？
• RQ2 与标准学习算法相比，算法方法如何提升少数类分类性能？
• RQ3 过采样与欠采样等数据预处理技术之间的权衡是什么？
• RQ4 在何种场景下，特征选择方法在不平衡数据上优于传统分类技术？
• RQ5 研究人员如何根据数据集大小、类别分布和特征复杂度，为给定的不平衡数据集选择最合适的方法？

主要发现

• 由于对多数类的偏向学习，类别不平衡显著降低了标准分类器的准确性，尤其是对少数类而言。
• 如SMOTE和随机过采样等数据预处理技术可提升少数类检测效果，但可能引入过拟合或噪声。
• 通过重加权类别或修改损失函数的算法方法，在小规模不平衡数据集上的表现优于简单重采样方法。
• 特征选择方法通过减少无关或冗余特征，增强了模型的泛化能力，尤其在高维不平衡数据集中表现显著。
• 没有单一方法在所有情况下均优于其他方法；其有效性取决于数据集大小、类别分布和特征空间复杂度。
• 结合预处理与算法修改的混合方法在多种现实应用场景中通常能取得更优结果。