[论文解读] To Split or Not to Split: The Impact of Disparate Treatment in Classification

Hao Wang, Hsiang Hsu+2 more|arXiv (Cornell University)|Feb 12, 2020

Machine Learning and Algorithms参考文献 91被引用 7

一句话总结

本文研究在公平机器学习中，何时对敏感群体分别训练分类器（即拆分分类器）相比群体无偏分类器能提升性能。论文提出了“拆分收益”度量指标，利用凸优化证明了可计算的上下界，并表明当标注函数存在差异且群体分布相似时，拆分能最大化性能增益，为数据稀缺场景下的伦理化、高精度模型设计提供了理论指导。

ABSTRACT

Disparate treatment occurs when a machine learning model yields different decisions for individuals based on a sensitive attribute (e.g., age, sex). In domains where prediction accuracy is paramount, it could potentially be acceptable to fit a model which exhibits disparate treatment. To evaluate the effect of disparate treatment, we compare the performance of split classifiers (i.e., classifiers trained and deployed separately on each group) with group-blind classifiers (i.e., classifiers which do not use a sensitive attribute). We introduce the benefit-of-splitting for quantifying the performance improvement by splitting classifiers. Computing the benefit-of-splitting directly from its definition could be intractable since it involves solving optimization problems over an infinite-dimensional functional space. Under different performance measures, we (i) prove an equivalent expression for the benefit-of-splitting which can be efficiently computed by solving small-scale convex programs; (ii) provide sharp upper and lower bounds for the benefit-of-splitting which reveal precise conditions where a group-blind classifier will always suffer from a non-trivial performance gap from the split classifiers. In the finite sample regime, splitting is not necessarily beneficial and we provide data-dependent bounds to understand this effect. Finally, we validate our theoretical results through numerical experiments on both synthetic and real-world datasets.

研究动机与目标

• 确定在何种条件下拆分分类器在预测准确率方面优于群体无偏分类器。
• 通过一种名为‘拆分收益’的新度量指标，量化拆分分类器带来的性能增益。
• 针对标准损失函数（如 ℓ₁ 和交叉熵）等不同性能度量，建立‘拆分收益’的紧致上下界。
• 分析有限样本下拆分的影响，考虑样本量和模型复杂度，提供数据依赖的上下界。
• 通过合成数据集和真实世界数据集的数值实验验证理论结果。

提出的方法

• 引入‘拆分收益’作为比较拆分分类器与群体无偏分类器的性能度量，定义于底层数据分布之上。
• 通过小规模凸规划推导出‘拆分收益’的等价表达式，实现高效计算，避免求解无限维优化问题。
• 基于两个关键因素——最优标注函数之间的分歧程度和未标注群体分布之间的总变差距离——建立‘拆分收益’的紧致上下界。
• 通过引入样本受限拆分度量 ẑ_split，分析有限样本情形，并提供其符号和大小的数据依赖上下界。
• 采用信息论分析和 f-散度推理，刻画拆分能带来非平凡性能增益的条件。
• 通过合成数据集和真实世界数据集的数值实验验证理论结果，包括在不同假设类（如逻辑回归、决策树）之间的对比。

实验结果

研究问题

• RQ1 在模型性能方面，何时为不同敏感群体分别训练分类器是有益的？
• RQ2 在平均性能方面，拆分分类器何时能优于群体无偏分类器？
• RQ3 如何以理论严谨的方式量化并界定拆分带来的性能增益？
• RQ4 在有限样本情形下，拆分的收益如何变化，特别是在低数据或类别不平衡设置中？
• RQ5 标注函数的差异和未标注群体分布的差异在决定拆分潜在增益方面起什么作用？

主要发现

• 当不同群体的最优标注函数高度分歧且未标注分布相似时，‘拆分收益’达到最大，理论边界和图1中的可视化结果均表明此结论。
• ‘拆分收益’的上界表明，当最优分类器相似时增益极小，解释了为何某些数据集（如图3中横虚线下方的数据集）从拆分中获得的改进有限。
• 下界揭示，当标注函数存在差异且未标注分布相似时，拆分能带来显著性能增益，如图3中黄色区域内的数据集ID 122和1169所示。
• 当标注函数和未标注分布均不同时，从边界无法确定‘拆分收益’，其效果取决于模型复杂度——复杂度越高，拆分的收益可能越低。
• 在有限样本中，拆分并不保证有益；样本受限拆分度量 ẑ_split 可能为负，表明存在潜在损害，其符号取决于样本量和分布偏移。
• 数值实验确认，当理论条件满足时，拆分能带来非平凡的性能增益，且在模糊情形下，随着模型复杂度增加（如决策树），增益会减弱。