[论文解读] UBL: an R package for Utility-based Learning

Paula Branco, Rita P. Ribeiro+1 more|arXiv (Cornell University)|Apr 27, 2016

Imbalanced Data Classification Techniques参考文献 10被引用 24

一句话总结

本论文介绍了 UBL R 包，该包通过应用预处理技术（如聚焦欠采样和合成过采样）实现基于效用的学习，以处理具有非均匀成本或收益的分类和回归问题。该包支持用户指定或自动推断偏好偏倚的多分类和回归任务，通过根据领域特定效用重新加权数据分布，提升在数据不平衡领域中的模型性能。

ABSTRACT

This document describes the R package UBL that allows the use of several methods for handling utility-based learning problems. Classification and regression problems that assume non-uniform costs and/or benefits pose serious challenges to predictive analytic tasks. In the context of meteorology, finance, medicine, ecology, among many other, specific domain information concerning the preference bias of the users must be taken into account to enhance the models predictive performance. To deal with this problem, a large number of techniques was proposed by the research community for both classification and regression tasks. The main goal of UBL package is to facilitate the utility-based predictive analytic task by providing a set of methods to deal with this type of problems in the R environment. It is a versatile tool that provides mechanisms to handle both regression and classification (binary and multiclass) tasks. Moreover, UBL package allows the user to specify his domain preferences, but it also provides some automatic methods that try to infer those preference bias from the domain, considering some common known settings.

研究动机与目标

• 解决预测误差具有非均匀成本或收益的领域中的预测建模挑战，例如金融、医学和气象学。
• 提供一个灵活的框架，用于处理具有基于效用偏好的分类（二分类和多分类）和回归问题。
• 使用户能够手动指定领域偏好，或使用自动方法从数据分布中推断偏好偏倚，尤其适用于数据不平衡的情况。
• 将现有二分类方法扩展至具有目标变量中多个重要区域的多分类和回归任务。
• 通过修改数据分布的预处理方法，促进标准学习算法的使用，同时保持模型的可解释性。

提出的方法

• 实施预处理策略——欠采样（随机或聚焦）和过采样（复制或合成生成）——以根据用户偏好调整数据分布。
• 使用 HEOM 和 HVDM 等距离函数计算实例之间的相似性，支持混合数值型和名义型特征。
• 对名义属性使用归一化的 VDM，对数值属性使用归一化差异，并使用标准差进行缩放。
• 同时支持手动指定采样参数（如类别权重、采样比率）和从数据不平衡中自动估计偏好偏倚。
• 集成 SMOTE、NCL 和 Tomek 链接等方法，并使用可定制的距离度量重新加权少数类或高效益类。
• 在预处理后允许使用任何标准学习算法，保持模型可解释性和兼容性。

实验结果

研究问题

• RQ1 如何有效将基于效用的学习应用于具有非均匀成本或收益的多分类分类和回归问题？
• RQ2 当存在领域特定偏好偏倚但未正式量化时，哪些预处理策略最能提升模型性能？
• RQ3 在无显式用户输入的情况下，自动方法在多大程度上能从不平衡数据中推断出最优采样分布？
• RQ4 不同距离函数（如 HEOM、HVDM）对混合类型数据中合成采样技术性能有何影响？
• RQ5 修改数据分布的预处理方法在增强高效益目标区域性能的同时，能否保持模型的可解释性？

主要发现

• UBL 包成功将基于效用的学习方法扩展至目标变量中具有多个重要区域的多分类分类和回归任务。
• 采用 HVDM 距离的 SMOTE、NCL 和 Tomek 链接等预处理策略，通过聚焦高效益类别或区域，提升了不平衡数据上的模型性能。
• UBL 中的自动方法从数据不平衡中推断偏好偏倚，假设少数类或区域最为重要，并据此调整采样策略。
• 对名义特征使用归一化的 VDM，对数值特征使用归一化差异，结合 HVDM 距离，增强了混合类型数据集中的相似性度量。
• 使用 HVDM 等距离函数与 SMOTE 结合的 UBL 方法，在合成和真实世界数据示例中均显示出提升的预测性能。
• 该包在预处理后支持使用标准学习算法，既保持了模型的可解释性，又增强了基于效用的性能。