[论文解读] A Synthetic Over-sampling method with Minority and Majority classes for imbalance problems

Hadi Akbarzadeh Khorshidi, Uwe Aickelin|arXiv (Cornell University)|Nov 9, 2020

Advanced Statistical Process Monitoring被引用 4

一句话总结

本文提出SOMM，一种新颖的合成过采样方法，通过结合少数类和多数类信息，生成多样化且自适应的合成样本。通过基于两类样本的邻域数据更新合成样本，SOMM在极不平衡的二分类和多分类数据集上提升了分类器性能，尤其在极端类别不平衡和多模态多数类分布下表现优异，实证评估中优于现有方法。

ABSTRACT

Class imbalance is a substantial challenge in classifying many real-world cases. Synthetic over-sampling methods have been effective to improve the performance of classifiers for imbalance problems. However, most synthetic over-sampling methods generate non-diverse synthetic instances within the convex hull formed by the existing minority instances as they only concentrate on the minority class and ignore the vast information provided by the majority class. They also often do not perform well for extremely imbalanced data as the fewer the minority instances, the less information to generate synthetic instances. Moreover, existing methods that generate synthetic instances using the majority class distributional information cannot perform effectively when the majority class has a multi-modal distribution. We propose a new method to generate diverse and adaptable synthetic instances using Synthetic Over-sampling with Minority and Majority classes (SOMM). SOMM generates synthetic instances diversely within the minority data space. It updates the generated instances adaptively to the neighbourhood including both classes. Thus, SOMM performs well for both binary and multiclass imbalance problems. We examine the performance of SOMM for binary and multiclass problems using benchmark data sets for different imbalance levels. The empirical results show the superiority of SOMM compared to other existing methods.

研究动机与目标

• 解决现有合成过采样方法仅关注少数类而忽略多数类信息的局限性。
• 改善少数类样本稀少、难以有效生成合成样本的极端不平衡数据集上的性能。
• 开发一种即使在多数类具有复杂多模态分布时，也能生成多样化且自适应合成样本的方法。
• 通过联合利用少数类和多数类的数据结构，提升二分类和多分类不平衡问题中的分类器性能。

提出的方法

• SOMM使用改进的SMOTE类似方法，在少数类样本的凸包内生成初始合成样本。
• 然后通过融合少数类和多数类的局部邻域信息，自适应地更新每个合成样本。
• 该方法使用少数类和多数类邻居距离的加权组合来引导适应过程，确保样本的多样性和相关性。
• 通过迭代方式执行自适应更新，将合成样本逐步优化至特征空间中更具代表性的区域。
• 算法根据局部密度和分布特性动态调整多数类数据的影响。
• SOMM通过避免依赖全局多数类统计量，对多模态多数类分布表现出鲁棒性。

实验结果

研究问题

• RQ1 通过结合少数类和多数类信息，合成过采样方法是否能实现更优性能？
• RQ2 在类别不平衡数据集中，引入多数类邻域数据如何影响合成样本的多样性与泛化能力？
• RQ3 SOMM在不同类别不平衡水平下的二分类和多分类不平衡问题中是否优于现有过采样技术？
• RQ4 当多数类表现出多模态或复杂分布模式时，SOMM的效能如何？
• RQ5 在极端类别不平衡场景下，对合成样本进行自适应精炼是否能提升分类器性能？

主要发现

• SOMM在多个评估指标（包括F1-score和AUC）下显著优于传统过采样方法（如SMOTE和ADASYN）在基准数据集上的表现。
• 在少数类样本占总样本数不足10%的极端类别不平衡数据集中，SOMM表现出卓越性能。
• SOMM对多模态多数类分布具有鲁棒性，而依赖全局多数类统计量的其他方法则失效。
• 实证结果表明，引入多数类邻域信息可生成更具多样性与代表性的合成样本。
• 在多分类不平衡问题中，SOMM在所有少数类上均保持一致的性能提升，而其他方法仅聚焦于一对多或成对采样时表现不稳定。
• SOMM中的自适应更新机制提升了泛化能力，测试集上的F1-score和AUC值均有改善。