[论文解读] The Frontiers of Fairness in Machine Learning

Alexandra Chouldechova, Aaron Roth|arXiv (Cornell University)|Oct 20, 2018

Ethics and Social Impacts of AI参考文献 13被引用 242

一句话总结

tldr: 来自 2018 年 CCC 愿景工作坊的一项综述，调查机器学习中的公平性，概述当前的定义、挑战，以及为算法公平性的基础理解所指向的有前景的研究方向。

ABSTRACT

The last few years have seen an explosion of academic and popular interest in algorithmic fairness. Despite this interest and the volume and velocity of work that has been produced recently, the fundamental science of fairness in machine learning is still in a nascent state. In March 2018, we convened a group of experts as part of a CCC visioning workshop to assess the state of the field, and distill the most promising research directions going forward. This report summarizes the findings of that workshop. Along the way, it surveys recent theoretical work in the field and points towards promising directions for research.

研究动机与目标

• 识别并阐明塑造机器学习公平性科学的基本问题与定义。
• 调研统计意义与个人层面公平性及其局限性的主要理论方法。
• 突出未解决的问题与有前景的方向，以构建一个健壮的、组合性的和动态的公平性理论。

提出的方法

• 回顾并综合来自统计与个体视角的公平性理论工作。
• 讨论不公的原因，例如数据偏差、分布差异和探索性数据需求。
• 审视公平性定义、不可能性结果及计算考量。
• 探索公平表示学习的进展及在潜在对敏感信息的对抗性恢复下的局限性。
• 讨论超越静态的一次性分类的公平性，包括动态、组合和序列决策。

实验结果

研究问题

• RQ1 主要的统计性与个人层面的公平性概念及其权衡是什么？
• RQ2 我们能否获得超越少数受保护群体、延展到多或无限群体的实用公平性保证？
• RQ3 在组合多个组件或动态环境中，公平性概念的行为如何？
• RQ4 如何在不牺牲整体性能的前提下对数据偏差进行建模、纠正或缓解？
• RQ5 公平表示学习以及非分类设置（bandits、强化学习）在实现公平中扮演怎样的角色？

主要发现

• 统计性公平概念（平等性、等机会、预测值）可能相互冲突，往往难以同时满足。
• 公平性定义在实现上可能计算上较难，但在某些设置下存在实际的算法。
• 公平表示学习与对抗性方法可以降低不平等影响，但可能容易被更强的下游模型恢复信息所利用。
• 数据生成与收集中的偏差和反馈环可以传播或放大不公平性，因此需要小心的数据校正和对构造空间的建模。
• 面向个人及重复交互的系统组件的公平性（组合）仍具挑战性，对长期动态与激励的理解仍有限。