[论文解读] Minimax Classifier for Uncertain Costs

Rui Wang, Ke Tang|arXiv (Cornell University)|May 2, 2012

Imbalanced Data Classification Techniques参考文献 8被引用 4

一句话总结

本文提出了一种针对不确定成本下成本敏感学习的极小化最大值分类器框架，其中可能存在多个成本矩阵。证明了通过求解标准成本敏感问题及成对成本矩阵的子问题，可以找到极小化最大值解，从而在不确定成本情景下实现具有理论保证和实证验证的鲁棒分类。

ABSTRACT

Many studies on the cost-sensitive learning assumed that a unique cost matrix is known for a problem. However, this assumption may not hold for many real-world problems. For example, a classifier might need to be applied in several circumstances, each of which associates with a different cost matrix. Or, different human experts have different opinions about the costs for a given problem. Motivated by these facts, this study aims to seek the minimax classifier over multiple cost matrices. In summary, we theoretically proved that, no matter how many cost matrices are involved, the minimax problem can be tackled by solving a number of standard cost-sensitive problems and sub-problems that involve only two cost matrices. As a result, a general framework for achieving minimax classifier over multiple cost matrices is suggested and justified by preliminary empirical studies.

研究动机与目标

• 解决现实世界中误分类成本不确定或在不同情景下变化的成本敏感学习问题。
• 开发一种框架，以在多个可能的成本矩阵中找到最小化最坏情况总成本的分类器。
• 克服现有方法在训练期间假设单一已知成本矩阵的局限性。
• 提供一种理论基础坚实且经实证验证的方法，以实现成本不确定性下的鲁棒分类。

提出的方法

• 理论分析证明，多个成本矩阵上的极小化最大值分类器，要么对单一成本矩阵最优，要么对一对成本矩阵的极小化最大值最优。
• 该框架将极小化最大值问题简化为求解标准成本敏感学习问题和一系列涉及两个成本矩阵的子问题。
• 提出一种通用的算法流程，结合标准成本敏感学习与成对极小化最大值优化。
• 通过离散化，将该方法扩展至连续成本区间，从而适用于基于区间的成本不确定性。
• 实证验证使用标准成本敏感学习模型（例如，SVM、决策树）作为框架中的基学习器。
• 在8个UCI数据集上评估该框架，测试不同数量的成本矩阵，并与标准方法和后处理分类器进行性能比较。

实验结果

研究问题

• RQ1 当可能存在多个成本矩阵而非假设单一已知成本矩阵时，能否构建极小化最大值分类器？
• RQ2 多个成本矩阵上的极小化最大值解是否可归约为每次仅涉及两个成本矩阵的问题求解？
• RQ3 在成本不确定性下，与标准成本敏感学习和后处理方法相比，所提框架在实际中的表现如何？
• RQ4 能否通过离散化将该框架扩展至处理基于区间的成本不确定性？
• RQ5 在多样化数据集上，极小化最大值框架在最坏情况总成本方面的实证性能增益如何？

主要发现

• 通过求解标准成本敏感学习问题和一组仅涉及两个成本矩阵的子问题，可实现多个成本矩阵上的极小化最大值分类器。
• 该框架理论基础坚实，可通过离散化应用于有限集合和连续区间成本矩阵。
• 实证结果表明，所提出的SP（单对）框架在所有测试数据集上均持续实现比标准方法和后处理方法更低的最坏情况总成本。
• 平均而言，SP框架相比标准成本敏感学习和后处理基线，将最坏情况总成本降低了最多30%。
• 在16组实验设置（8个数据集 × 2种成本区间大小）中，该框架在14组中优于现有方法，证明了其在不确定性下的鲁棒性。
• 结果证实，求解成对极小化最大值问题是关键的技术挑战，未来工作应聚焦于开发高效算法求解该子问题。