[论文解读] Algorithmic Injustices: Towards a Relational Ethics

Abeba Birhane, Fred Cummins|arXiv (Cornell University)|Dec 16, 2019

Ethics and Social Impacts of AI参考文献 19被引用 41

一句话总结

本文主张一种关系伦理，将脆弱群体置于解决算法不公的核心，超越纯粹的技术修复。

ABSTRACT

It has become trivial to point out how decision-making processes in various social, political and economical sphere are assisted by automated systems. Improved efficiency, the hallmark of these systems, drives the mass scale integration of automated systems into daily life. However, as a robust body of research in the area of algorithmic injustice shows, algorithmic tools embed and perpetuate societal and historical biases and injustice. In particular, a persistent recurring trend within the literature indicates that society's most vulnerable are disproportionally impacted. When algorithmic injustice and bias is brought to the fore, most of the solutions on offer 1) revolve around technical solutions and 2) do not focus centre disproportionally impacted groups. This paper zooms out and draws the bigger picture. It 1) argues that concerns surrounding algorithmic decision making and algorithmic injustice require fundamental rethinking above and beyond technical solutions, and 2) outlines a way forward in a manner that centres vulnerable groups through the lens of relational ethics.

研究动机与目标

• 承认数据驱动工具编码了人类文化、价值观与道德观，因此需要的不仅仅是技术解决方案。
• 在设计和评估算法时，将受影响程度不成比例的个人与群体置于中心。
• 批判性地审视关于偏见、正义与伦理的基本假设，认为它们是动态且依赖情境的。
• 提倡在算法系统中重视理解与情境分析，而不仅仅是预测。

提出的方法

• 主张将伦理从纯技术解决方案转移到哲学与社会探究。
• 强调将数据视为与文化、意义和社会权力相关联的关系视角。
• 倡议把偏见与公平视为动态、应变的概念，需要持续修订。
• 主张算法在塑造社会规范与秩序方面起作用，而不仅仅是执行分类。
• 建议随着社会演变，持续重新界定何为公平与伦理。

实验结果

研究问题

• RQ1 在超越技术修复的同时，应该如何解决算法不公并将最受影响者置于中心？
• RQ2 在社会上存在争议的领域评估和部署算法系统时，关系伦理要求是什么？
• RQ3 偏见、公平和正义等概念如何随时间和情境而改变？
• RQ4 算法分类在何种程度上促进社会秩序，又该如何应对？

主要发现

• 关系伦理将受影响最深的群体作为任何解决方案的出发点。
• 在敏感领域（如监狱）中，理解与情境化的基础应当先于预测建模。
• 算法不仅是工具，更是参与创造与强化社会规范与秩序的参与者。
• 公平与伦理是不断变化的目标，需要在不同情境与时间中进行开放、迭代的再评估。
• 仅靠技术修复不足以解决社会中根深蒂固的偏见与不公。