[论文解读] Affirmative Algorithms: The Legal Grounds for Fairness as Awareness

Daniel E. Ho, Alice Xiang|arXiv (Cornell University)|Dec 18, 2020

Digital Economy and Work Transformation被引用 16

一句话总结

本文主张，依赖基于种族调整的算法公平性技术可能违反美国法律中的平等保护原则，尤其是在高等教育等需要个体化考量的语境中。本文提出以政府合同关系作为法律依据，支持基于种族的算法，倡导公平机制应针对历史歧视进行校准，从而为机器学习中的偏见缓解提供合宪的路径。

ABSTRACT

While there has been a flurry of research in algorithmic fairness, what is less recognized is that modern antidiscrimination law may prohibit the adoption of such techniques. We make three contributions. First, we discuss how such approaches will likely be deemed "algorithmic affirmative action," posing serious legal risks of violating equal protection, particularly under the higher education jurisprudence. Such cases have increasingly turned toward anticlassification, demanding "individualized consideration" and barring formal, quantitative weights for race regardless of purpose. This case law is hence fundamentally incompatible with fairness in machine learning. Second, we argue that the government-contracting cases offer an alternative grounding for algorithmic fairness, as these cases permit explicit and quantitative race-based remedies based on historical discrimination by the actor. Third, while limited, this doctrinal approach also guides the future of algorithmic fairness, mandating that adjustments be calibrated to the entity's responsibility for historical discrimination causing present-day disparities. The contractor cases provide a legally viable path for algorithmic fairness under current constitutional doctrine but call for more research at the intersection of algorithmic fairness and causal inference to ensure that bias mitigation is tailored to specific causes and mechanisms of bias.

研究动机与目标

• 在现行反歧视法律下，审查在机器学习中使用基于种族的公平性技术所面临的法律风险。
• 识别允许基于种族的算法干预而不违反平等保护原则的法律学说路径。
• 提出一个以对歧视的历史责任为基础的算法公平性框架，尤其适用于公共合同领域。
• 将算法公平性与因果推断相结合，确保偏见缓解措施针对特定的不平等成因。
• 为未来研究提供指导，使公平算法与宪法及法定法律标准保持一致。

提出的方法

• 分析美国最高法院关于平等保护的判例法，特别是在高等教育领域，以识别对形式化、量化基于种族的补救措施的限制。
• 考察政府合同 doctrine 作为一种法律例外，允许对历史歧视进行明确的、量化的基于种族的调整。
• 建议公平算法应根据实体对过去歧视的责任进行校准，而非普遍应用。
• 援引法律先例，主张当与可证明的历史伤害及当前不平等存在因果联系时，基于种族的补救措施是允许的。
• 建议整合因果推断方法，以确保偏见缓解措施针对实际的歧视机制。
• 将算法公平性视为一种‘肯定性行动’，仅在特定法律学说例外下具有合法性，而非作为普遍原则。

实验结果

研究问题

• RQ1 当前的平等保护学说，特别是在高等教育领域，如何限制在机器学习中使用基于种族的公平性技术？
• RQ2 在哪些法律语境下，基于种族的算法干预在宪法上是可接受的？
• RQ3 政府合同 doctrine 是否能为算法系统中的公平意识提供可行的法律基础？
• RQ4 如何根据组织对歧视的历史责任来校准算法公平性？
• RQ5 因果推断在确保偏见缓解措施具有针对性且法律上可辩护方面应发挥何种作用？

主要发现

• 在机器学习中，基于种族的公平性技术很可能会被认定为‘算法肯定性行动’，并面临平等保护学说下的法律挑战，尤其是在高等教育语境中。
• 当政府合同实体与历史歧视存在关联时，政府合同 doctrine 为基于种族的算法干预提供了合宪的法律基础。
• 此类算法的法律可接受性取决于证明该实体对过去歧视负有责任，并且其与当前不平等之间存在因果联系。
• 现行判例法要求进行个体化考量，禁止对种族使用形式化、量化的权重，因此许多标准的公平性技术在法律上存在风险。
• 该法律学说框架仅在调整措施与实体在延续历史不公中的角色成比例时，才支持公平意识。
• 未来研究必须将因果推断与算法公平性相结合，以确保偏见缓解措施既具有法律可辩护性，又精准针对。