[论文解读] This Thing Called Fairness: Disciplinary Confusion Realizing a Value in Technology

Deirdre K. Mulligan, Joshua A. Kroll+2 more|arXiv (Cornell University)|Sep 26, 2019

Ethics and Social Impacts of AI参考文献 116被引用 13

一句话总结

本文通过提出一个包含理论、不公平性、保护和供给四个维度的结构化公平分析框架，解决了技术领域公平讨论中的学科混淆问题。该框架通过澄清不同学科对公平的不同理解，促进跨学科协作，以刑事司法风险评估案例研究为例加以说明，并提供一种工具，可在不依赖共识的情况下解决理论、政治和实践层面的分歧。

ABSTRACT

The explosion in the use of software in important sociotechnical systems has renewed focus on the study of the way technical constructs reflect policies, norms, and human values. This effort requires the engagement of scholars and practitioners from many disciplines. And yet, these disciplines often conceptualize the operative values very differently while referring to them using the same vocabulary. The resulting conflation of ideas confuses discussions about values in technology at disciplinary boundaries. In the service of improving this situation, this paper examines the value of shared vocabularies, analytics, and other tools that facilitate conversations about values in light of these disciplinary specific conceptualizations, the role such tools play in furthering research and practice, outlines different conceptions of "fairness" deployed in discussions about computer systems, and provides an analytic tool for interdisciplinary discussions and collaborations around the concept of fairness. We use a case study of risk assessments in criminal justice applications to both motivate our effort--describing how conflation of different concepts under the banner of "fairness" led to unproductive confusion--and illustrate the value of the fairness analytic by demonstrating how the rigorous analysis it enables can assist in identifying key areas of theoretical, political, and practical misunderstanding or disagreement, and where desired support alignment or collaboration in the absence of consensus.

研究动机与目标

• 解决技术领域中不同学科对公平概念重叠但又各不相同的理解所引发的混淆。
• 开发一个共享的分析框架，以阐明不同学科对公平概念化的差异。
• 通过提供促进价值观对话的工具，支持跨学科研究与实践。
• 通过刑事司法系统风险评估的案例研究，展示该框架的实用性。
• 识别并解决公平讨论中理论、政治和实践层面的误解，而无需达成共识。

提出的方法

• 本文构建了一个包含四个核心维度的公平分析框架：公平理论、不公平性、保护和供给。
• 每个维度包含具体子维度（如利益相关者视角、系统边界、目标、提供者），以澄清概念上的差异。
• 通过质询问题对公平的含义、范围和语境进行探究，实现公平的可操作化。
• 作者将该框架应用于刑事司法系统中风险评估工具的案例研究，以证明其在识别公平概念错位方面的实用性。
• 该方法强调共享术语和分析工具在支持技术中价值观的跨学科基础设施方面的作用。
• 采用概念分析与案例示范相结合的方法，映射法律、计算机科学、哲学和社会科学等领域对公平理解的分歧。

实验结果

研究问题

• RQ1 不同学术学科在何种方式下对公平进行概念化，从而导致跨学科讨论中的混淆？
• RQ2 哪些分析工具能够帮助澄清并统一不同学科对公平概念的理解？
• RQ3 结构化的公平分析框架如何解决公平辩论中的理论与实践分歧？
• RQ4 刑事司法风险评估的案例如何体现混淆公平概念的后果？
• RQ5 共享术语和分析基础设施在促进技术中价值观的建设性跨学科协作中发挥何种作用？

主要发现

• 本文发现，不同学科对公平概念的理解差异（如程序公平与分配公平）导致跨学科对话中产生无益的混淆。
• 公平分析框架成功消除了对公平定义的竞争性理解，促进了跨学科间更清晰的对话。
• 在刑事司法风险评估的案例研究中，该框架揭示出，公平声明往往掩盖了对正义、利益相关者和系统边界的深层分歧。
• 该框架展示了在无法达成共识的领域与可能实现对齐的领域中识别差异的能力，即使在核心定义未达成一致的情况下亦可实现。
• 研究表明，共享的分析工具对于构建支持技术设计中价值观整合的研究与实践基础设施至关重要。
• 作者得出结论：此类工具不仅有帮助，更是推动社会技术系统中公平建设性工作的必要条件。