[论文解读] The Authority of "Fair" in Machine Learning

Michael Skirpan, Micha Gorelick|arXiv (Cornell University)|Jun 29, 2017

Ethics and Social Impacts of AI参考文献 32被引用 19

一句话总结

本文提出了一种规范性、情境依赖的机器学习公平性定义，主张公平性必须通过集体论证并基于具体语境，而非单纯通过技术手段强制执行。文章批评了当前对差别待遇的过度关注，倡导让社区参与公平性的定义，并呼吁建立制度性机制以确保机器学习系统的合法性和问责性。

ABSTRACT

In this paper, we argue for the adoption of a normative definition of fairness within the machine learning community. After characterizing this definition, we review the current literature of Fair ML in light of its implications. We end by suggesting ways to incorporate a broader community and generate further debate around how to decide what is fair in ML.

研究动机与目标

• 挑战当前将机器学习中的公平性仅视为避免差别待遇的技术化框架。
• 主张公平性并非内在或技术性属性，而是一种规范性、情境依赖的建构，需依赖社区共识。
• 揭示工程师在未征询受影响社区意见的情况下单方面编码公平性所带来的风险。
• 提出通过参与式对话与制度问责实现机器学习中公平性合法化的框架。
• 呼吁更广泛地纳入弱势群体和倡导组织，参与定义机器学习系统的公平性标准。

提出的方法

• 提出一种规范性公平性定义（P1），要求具备情境正当性，并为受影响方提供同意或反对的机制。
• 将公平性划分为三种不同框架：系统的公平性、方法的公平性与结果的公平性。
• 通过这三种框架分析现有公平性文献，揭示其对差别影响的狭隘关注。
• 评估事后可解释性与公平性审计工具的局限性，因其依赖预定义特征与局部近似。
• 提出算法正当程序与社区参与作为实现机器学习中合法、可问责公平性的路径。
• 倡导制度性改革，如设立伦理委员会与课程整合，以将公平性嵌入机器学习开发过程。

实验结果

研究问题

• RQ1 如何定义机器学习中的公平性，使其既基于具体语境又具备民主合法性？
• RQ2 为何当前对差别待遇的关注不足以确保机器学习系统的伦理合规？
• RQ3 受影响社区与倡导组织在定义机器学习应用中的公平性时应发挥何种作用？
• RQ4 机器学习从业者如何确保其公平性约束不会由技术精英单方面强加？
• RQ5 哪些制度机制可使机器学习系统中‘公平性’的权威性获得合法化？

主要发现

• 当前关于公平机器学习的文献主要聚焦于防止差别待遇，往往忽视了公平性的更广泛规范性与情境维度。
• 事后公平性审计工具存在局限，因其依赖预定义的受保护类别，无法检测已知共变数之外的偏见。
• 如LIME及其类似方法的可解释性技术仅提供局部、近似的解释，无法揭示模型行为的全局特征。
• 在实现公平性与保持模型准确性之间存在根本性张力，表明在当前约束下理想公平性可能无法实现。
• 目前定义机器学习中公平性的权威缺乏问责机制，存在被技术精英单方面强加而无社区参与的风险。
• 公平性的合法性需要制度性机制——如算法正当程序与社区参与——以实现异议表达与共识构建。