[论文解读] Equal Opportunity in Online Classification with Partial Feedback
本文研究在线二元分类中的部分反馈问题，其中仅能观测到被正确定类为正样本的个体的真实标签。提出了一种Oracle高效算法，在每一轮中强制执行等机会公平性约束（即相等的假正类率/假负类率），并表明公平性带来的遗憾成本较轻——对于γ-公平性，其成本仅为Ω(1/γ²)，并建立了紧致的上下界。
We study an online classification problem with partial feedback in which individuals arrive one at a time from a fixed but unknown distribution, and must be classified as positive or negative. Our algorithm only observes the true label of an individual if they are given a positive classification. This setting captures many classification problems for which fairness is a concern: for example, in criminal recidivism prediction, recidivism is only observed if the inmate is released; in lending applications, loan repayment is only observed if the loan is granted. We require that our algorithms satisfy common statistical fairness constraints (such as equalizing false positive or negative rates -- introduced as "equal opportunity" in Hardt et al. (2016)) at every round, with respect to the underlying distribution. We give upper and lower bounds characterizing the cost of this constraint in terms of the regret rate (and show that it is mild), and give an oracle efficient algorithm that achieves the upper bound.
研究动机与目标
- 解决在仅能观测到被正确定类为正样本的个体反馈时的在线分类公平性问题，例如在贷款审批或刑事再犯预测中的应用。
- 确保统计公平性约束——特别是相等的假正类率与假负类率（等机会）——在每一轮中相对于底层分布均得到满足。
- 分析在部分反馈设置下，公平性约束与学习遗憾之间的权衡，其中由于反馈偏差的存在，标准批量方法失效。
- 在遗憾的术语下，提供公平性成本的理论界，表明其成本较轻且可量化。
- 设计一种Oracle高效算法，在公平性约束下实现最优遗憾界。
提出的方法
- 将问题建模为部分反馈下的在线学习，其中仅能观测到被正确定类为正样本的个体的真实标签。
- 通过γ-相等假正类率（γ-EFP）约束定义公平性，要求对任意分类器π，|FPR₁(π) − FPR₋₁(π)| ≤ γ。
- 采用分布模型，其中样本从未知分布D ∈ (x, a, y) i.i.d. 抽取，x为包含敏感属性a的特征。
- 应用信息论工具，包括KL散度，证明区分两个难以区分的分布D₁与D₂需要Ω(1/γ²)个样本。
- 通过证明在算法能够区分D₁与D₂之前，必须严重依赖常数分类器，从而导致高遗憾，推导出遗憾的下界。
- 设计一种Oracle高效算法，每轮均保持公平性，并实现遗憾的上界，与下界仅相差常数因子。
实验结果
研究问题
- RQ1在部分反馈设置下的在线分类中，强制执行等机会公平性约束的遗憾成本是多少？
- RQ2算法是否能在每轮均保持公平性（即相等的假正类率/假负类率）的同时，仍实现次线性遗憾？
- RQ3在部分反馈下，区分仅在公平性属性上不同的两个分布有多困难？
- RQ4在此在线学习设置中，公平性与遗憾之间的最优权衡是什么？
- RQ5能否设计一种Oracle高效算法，以在公平性约束下实现最优遗憾界？
主要发现
- 强制执行γ-EFP公平性的遗憾成本为Ω(1/γ²)，表明公平性对学习性能造成的成本较轻且可量化。
- 通过构造两个难以区分的分布D₁与D₂（KL散度≤64γ²），建立了Ω(1/γ²)的遗憾下界，迫使算法谨慎探索。
- 任何γ-EFP(δ)-公平的算法必须承受期望0-EFP遗憾Ω(T²α)，其中T⁻α表示公平性，揭示了公平性与遗憾之间的根本权衡。
- 构建了一种Oracle高效算法，实现了遗憾的上界，与下界仅相差常数因子，证明了遗憾界的紧致性。
- 分析表明，公平性约束同时限制了探索与利用，使得公平性约束下的在线学习与批量学习本质上不同。
- 研究结果可扩展至其他统计公平性约束（如统计独立性），表明该框架具有广泛适用性。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。