[论文解读] Rawlsian Fairness for Machine Learning.

Matthew Joseph, Michael Kearns+3 more|arXiv (Cornell University)|Oct 29, 2016

Advanced Bandit Algorithms Research参考文献 21被引用 49

一句话总结

本文提出了一种基于罗尔斯公平性（Rawlsian fairness）——具体而言是机会均等——的机器学习算法，以减少在线决策中的歧视。该研究提出了一种公平的上下文Bandit算法，其遗憾界得到改进，并引入了一种歧视指数来衡量偏见，表明公平算法可避免标准方法中出现的结构性歧视行为。

ABSTRACT

Motivated by concerns that automated decision-making procedures can unintentionally lead to discriminatory behavior, we study a technical definition of fairness modeled after John Rawls' notion of equality of opportunity. In the context of a simple model of online decision making, we give an algorithm that satisfies this fairness constraint, while still being able to learn at a rate that is comparable to (but necessarily worse than) that of the best algorithms absent a fairness constraint. We prove a regret bound for algorithms in the linear contextual bandit framework that is a significant improvement over our technical companion paper [16], which gives black-box reductions in a more general setting. We analyze our algorithms both theoretically and experimentally. Finally, we introduce the notion of a discrimination index, and show that standard algorithms for our problem exhibit structured discriminatory behavior, whereas the fair algorithms we develop do not.

研究动机与目标

• 解决自动化决策系统中可能无意产生歧视性结果的问题。
• 将罗尔斯公平性——机会均等——形式化为在线学习中的技术约束。
• 开发一种在满足公平约束的同时保持学习性能的算法。
• 引入一种歧视指数，以实证测量和比较不同算法中的偏见行为。

提出的方法

• 将罗尔斯的机会均等原则适配为在线决策中的公平性约束。
• 在线性上下文Bandit框架内设计一种公平算法，以平衡学习性能与公平性。
• 推导出一个优于一般设置下先前黑箱归约的遗憾界。
• 引入一种歧视指数，以量化并检测学习算法中的结构性歧视行为。
• 通过理论分析和实验评估验证公平性与性能之间的权衡。
• 结合理论遗憾分析与实证验证，比较标准算法与公平算法。

实验结果

研究问题

• RQ1 如何在在线机器学习系统中正式定义并实现罗尔斯公平性？
• RQ2 在学习遗憾的衡量下，强制实施罗尔斯公平性的性能成本是多少？
• RQ3 歧视指数能否有效检测并量化标准学习算法中的结构性歧视行为？
• RQ4 在此框架下开发的公平算法是否避免了标准方法中观察到的歧视模式？
• RQ5 所提出的公平算法的遗憾与无约束基线相比如何？

主要发现

• 所提出的公平算法实现了显著优于技术附录中黑箱归约的遗憾界。
• 标准算法在歧视指数测量下表现出结构性歧视行为，而所提出的公平算法中则不存在此类行为。
• 公平算法保持了与无约束算法相当的学习性能，尽管必然略逊一筹。
• 歧视指数成功识别并量化了标准学习方法中的偏见模式。
• 理论与实验结果均证实，公平算法避免了基线模型中观察到的歧视行为。