[논문 리뷰] Affirmative Algorithms: The Legal Grounds for Fairness as Awareness

Daniel E. Ho, Alice Xiang|arXiv (Cornell University)|2020. 12. 18.

Digital Economy and Work Transformation인용 수 16

한 줄 요약

이 논문은 인종 기반 조정에 의존하는 알고리즘 공정성 기법이 미국 헌법의 평등보호 조항을 위반할 위험이 있으며, 특히 개인별 고려가 요구되는 고등교육 분야에서 그러한 위험이 크다고 주장한다. 정부 계약 관련 사례를 법적 근거로 삼아 인종을 고려하는 알고리즘을 제안하며, 과거 차별에 기반한 공정성 메커니즘을 조정함으로써 기계학습에서 편향 완화를 위한 constituational 유효한 길을 제시한다.

ABSTRACT

While there has been a flurry of research in algorithmic fairness, what is less recognized is that modern antidiscrimination law may prohibit the adoption of such techniques. We make three contributions. First, we discuss how such approaches will likely be deemed "algorithmic affirmative action," posing serious legal risks of violating equal protection, particularly under the higher education jurisprudence. Such cases have increasingly turned toward anticlassification, demanding "individualized consideration" and barring formal, quantitative weights for race regardless of purpose. This case law is hence fundamentally incompatible with fairness in machine learning. Second, we argue that the government-contracting cases offer an alternative grounding for algorithmic fairness, as these cases permit explicit and quantitative race-based remedies based on historical discrimination by the actor. Third, while limited, this doctrinal approach also guides the future of algorithmic fairness, mandating that adjustments be calibrated to the entity's responsibility for historical discrimination causing present-day disparities. The contractor cases provide a legally viable path for algorithmic fairness under current constitutional doctrine but call for more research at the intersection of algorithmic fairness and causal inference to ensure that bias mitigation is tailored to specific causes and mechanisms of bias.

연구 동기 및 목표

• 현재의 반차별법에 따라 기계학습에서 인종 기반 공정성 기법을 사용할 경우 발생할 수 있는 법적 위험을 검토하는 것.
• 등급 보호 원칙을 위반하지 않으면서도 인종을 고려하는 알고리즘 간섭을 허용하는 사법적 길을 식별하는 것.
• 특히 정부 계약 분야에서 과거 차별에 대한 역사적 책임에 기반한 알고리즘 공정성 프레임워크를 제안하는 것.
• 편향 완화가 특정 차별 원인에 맞게 조정될 수 있도록 알고리즘 공정성과 인과 추론을 융합하는 것.
• 공정성 알고리즘을 헌법적 및 법률적 기준과 일치시키는 데 향후 연구를 이끌어내는 것.

제안 방법

• 등급 보호 원칙에 관한 미국 대법원 판례를 분석하여, 특히 고등교육 분야에서 형식적이고 정량적인 인종 기반 보정 조치에 가해지는 제약를 규명하는 것.
• 정부 계약 기준을 법적 예외로 삼아 과거 차별을 보정하기 위해 명시적이고 정량적인 인종 기반 조정을 허용하는 근거로 삼는 것.
• 공정성 알고리즘이 조직의 과거 차별에 대한 책임에 기반해 조정되어야 하며, 일반적인 방식으로 적용되어서는 안 된다고 제안하는 것.
• 법적 전례를 바탕으로, 역사적 피해가 입증되고 현재의 격차와의 인과관계가 명확할 경우 인종을 고려하는 조치가 허용된다고 주장하는 것.
• 편향 완화가 실제 차별 메커니즘을 대상으로 하도록 인과 추론 방법을 통합하여, 편향 완화가 정확하고 법적으로 타당한 방향으로 이뤄지도록 권고하는 것.
• 특정 사법적 예외에 기반해 법적으로 정당화될 경우에만 알고리즘 공정성을 '인정의 형태'로 간주하며, 일반 원칙으로서의 적용은 하지 않는 것.

실험 결과

연구 질문

• RQ1 현재의 평등보호 사법 원칙, 특히 고등교육 분야에서, 기계학습에서 인종 기반 공정성 기법의 사용을 어떻게 제약하는가?
• RQ2 어떤 법적 맥락에서 인종을 고려하는 알고리즘 간섭이 헌법적으로 허용되는가?
• RQ3 정부 계약 기준이 알고리즘 시스템에서의 공정성 인식을 위한 실현 가능한 법적 기반을 제공할 수 있는가?
• RQ4 조직의 과거 차별에 대한 역사적 책임에 기반해 알고리즘 공정성을 어떻게 조정할 수 있는가?
• RQ5 인과 추론은 편향 완화가 정확하고 법적으로 타당한 방향으로 이뤄지도록 하기 위해 어떤 역할을 해야 하는가?

주요 결과

• 기계학습에서 인종 기반 공정성 기법은 평등보호 원칙에 따라 '알고리즘 기반의 인정'으로 간주되어 법적 도전을 받을 가능성이 크며, 특히 고등교육 분야에서는 더욱 그렇다.
• 정부 계약 기준은 계약 기관이 과거 차별을 유발한 바가 있을 경우, 인종을 고려하는 알고리즘 간섭을 허용하는 헌법적으로 타당한 근거를 제공한다.
• 이러한 알고리즘의 법적 허용 가능성은 기관이 과거 차별에 책임이 있음을 입증하고, 그와 현재의 격차 사이에 인과관계가 있음을 증명하는 데 달려 있다.
• 현재의 판례는 개인별 고려를 요구하며, 인종에 대한 형식적이고 정량적인 가중치를 금지하므로, 많은 표준 공정성 기법은 법적으로 위험한 성격을 띤다.
• 사법적 프레임워크는 조정이 기관이 과거 불평등을 유지하는 데 기여한 비율에 비례할 경우에만 공정성 인식을 허용한다.
• 향후 연구는 인과 추론을 알고리즘 공정성과 융합하여, 편향 완화가 법적으로 타당하고 정확하게 대상에 맞게 이루어지도록 해야 한다.