[论文解读] MixBoost: Synthetic Oversampling with Boosted Mixup for Handling Extreme Imbalance

Anubha Kabra, Ayush Chopra+5 more|arXiv (Cornell University)|Sep 3, 2020

Imbalanced Data Classification Techniques参考文献 24被引用 5

一句话总结

MixBoost 是一种新颖的数据增强方法，通过基于熵加权采样的提升选择机制，智能地混合少数类和多数类样本，生成合成的混合实例。在 20 个极端类别不平衡的基准数据集上，其性能优于当前最先进的方法，通过迭代、模型引导的增强策略，显著提升了低数据场景下分类器的泛化能力。

ABSTRACT

Training a classification model on a dataset where the instances of one class outnumber those of the other class is a challenging problem. Such imbalanced datasets are standard in real-world situations such as fraud detection, medical diagnosis, and computational advertising. We propose an iterative data augmentation method, MixBoost, which intelligently selects (Boost) and then combines (Mix) instances from the majority and minority classes to generate synthetic hybrid instances that have characteristics of both classes. We evaluate MixBoost on 20 benchmark datasets, show that it outperforms existing approaches, and test its efficacy through significance testing. We also present ablation studies to analyze the impact of the different components of MixBoost.

研究动机与目标

• 为解决在少数类样本稀缺的极端类别不平衡数据集上训练鲁棒分类器的挑战。
• 克服现有过采样方法的局限性，这些方法生成的合成样本同质化，局限于少数类凸包内部。
• 改善模型当前表现不佳的输入空间区域中的分类器性能。
• 开发一种通过迭代、模型引导采样，协同利用少数类和多数类数据的增强策略。
• 通过消融研究和显著性检验，验证混合实例生成的有效性。

提出的方法

• MixBoost 采用迭代的两阶段流程：首先，使用基于熵加权的低-高采样策略选择候选实例，优先关注不确定性区域。
• 其次，通过在选定的少数类和多数类实例之间插值，生成合成的混合实例，使其兼具两类特征。
• 该方法采用动态采样策略，聚焦于当前分类器表现较差的区域，其依据是预测熵较高。
• 它将模型反馈整合到数据生成过程中，确保合成实例在特征空间中表现不佳的区域最具价值。
• 该算法执行多轮增强，逐步优化合成数据在输入空间中的分布。
• 它采用改进的类似 mixup 的插值技术，在保留结构关系的同时，结合两类的特征。

实验结果

研究问题

• RQ1 迭代的、模型引导的数据增强方法，通过结合少数类和多数类实例，是否能提升在极端类别不平衡数据集上的性能？
• RQ2 与同质化的少数类样本相比，生成混合合成实例是否能在低数据场景下带来更好的泛化性能？
• RQ3 熵加权选择机制如何影响模型不确定性区域中合成实例的质量和分布？
• RQ4 MixBoost 在多种基准数据集上，相较于 SMOTE、ADASYN 和 SWIM 等现有最先进过采样技术，其性能提升程度如何？
• RQ5 改变少数类样本数量对合成数据质量和下游分类器性能有何影响？

主要发现

• 在 20 个具有极端类别不平衡的基准数据集上，MixBoost 的 g-mean 分数显著优于现有最先进方法。
• 该方法在所有测试数据集上均实现了更高的分类器性能，尤其在少数类表示极少的低数据场景中表现更优。
• 消融研究证实，提升选择（熵加权采样）和基于 mixup 的混合生成均为性能提升的关键组件。
• 随着用于 MixBoost 过程的少数类样本数量增加，分类器性能单调提升，表明其具备可扩展性和鲁棒性。
• MixBoost 生成的合成实例在模型不确定性较高的区域更具有效性，表现为输入空间中低准确率区域的性能提升。
• 显著性检验确认，性能提升在多次运行和多个数据集上均具有统计显著性。