[논문 리뷰] On the Legal Compatibility of Fairness Definitions

Alice Xiang, Inioluwa Deborah Raji|arXiv (Cornell University)|2019. 11. 25.

Ethics and Social Impacts of AI참고 문헌 23인용 수 27

한 줄 요약

이 논문은 기계학습(ML)의 공정성 정의와 미국의 반차별법 간의 부일치를 비판하며, 일반적인 ML 공정성 개념—예를 들어 차별, 보호받는 집단, 절차적 공정성—이 종종 법적 개념을 잘못 표현하거나 단순화하고 있음을 입증한다. 실질적 영향력과 책임성 확보를 위해 공정성 연구에 법적 호환성이 필수적이라고 주장하며, 기술적 공정성과 법적 기준을 일치시키기 위해 ML 및 법학 분야 간 협력이 필요하다고 제안한다.

ABSTRACT

Past literature has been effective in demonstrating ideological gaps in machine learning (ML) fairness definitions when considering their use in complex socio-technical systems. However, we go further to demonstrate that these definitions often misunderstand the legal concepts from which they purport to be inspired, and consequently inappropriately co-opt legal language. In this paper, we demonstrate examples of this misalignment and discuss the differences in ML terminology and their legal counterparts, as well as what both the legal and ML fairness communities can learn from these tensions. We focus this paper on U.S. anti-discrimination law since the ML fairness research community regularly references terms from this body of law.

연구 동기 및 목표

• 미국의 반차별법에 적용되는 실제 법적 정의와 대비하여 ML 공정성 용어와의 부일치를 식별하고 분석하는 것.
• ML 공정성 연구가 차별, 보호받는 집단, 인과성 등의 법적 개념을 어떻게 잘못 표현하는지 입증하는 것.
• ML 공정성 연구가 실질적 영향력과 법적 집행 가능성을 가지기 위해 법적 호환성이 필수적이라는 점을 주장하는 것.
• ML 및 법학 분야가 상호 학습함으로써 알고리즘 시스템 내 공정성 프레임워크를 향상시키기 위한 제안.
• 기술적 공정성과 법적 기준 및 거버넌스 프레임워크를 일치시키기 위해 ML 및 법학자 간 협력을 장려하는 것.

제안 방법

• 미국의 반차별법에 적용되는 법적 대응 개념과 비교하여 ML 문헌에서의 핵심 공정성 용어(예: 차별, 보호받는 집단, 절차적 공정성)를 분석하는 것.
• 법원 판례 및 법적 프레임워크(예: 민권법, 공정주거법, ADA)를 활용하여 법적 정의가 의도, 인과성, 분야 특수성에 중점을 두고 있음을 설명하는 것.
• ML 개념인 '무지 기반의 공정성'과 반차별 원칙인 '하위지위 방지 원칙' 간 대조 분석—하위지위 방지 원칙은 역사를 거슬러 올라가는 불평등을 바로잡기 위해 차별적 대우를 정당화함.
• 편향 측정 기법의 법적 함의 분석, 특히 감사 및 모델 평가에서 보호받는 속성을 사용하는 것에 초점.
• 법적 인과성(예: '보호받는 집단의 영향으로 인해')과 ML에서 사용하는 통계적 대체변수(예: 대체 변수) 간 격차 분석.
• ML 연구가 법적 정책에 기여할 수 있도록, 법원 및 규제 기관에서 알고리즘 인과성을 어떻게 평가할 수 있는지 명확히 하는 것.

실험 결과

연구 질문

• RQ1 ML 공정성 정의에서의 '차별' 개념은 미국의 반차별법에 따른 법적 정의와 어떻게 다를까?
• RQ2 ML 공정성 개념인 '보호받는 집단'이 법적 보호의 범위와 대칭성과 얼마나 정확히 일치하는가?
• RQ3 역사적 불평등을 바로잡기 위해 차별적 대우를 정당화하는 법적 원칙인 '하위지위 방지 원칙'이 왜 ML 공정성 문헌에서 거의 무시되는가?
• RQ4 반차별법에서의 법적 인과성 개념이 ML 공정성 평가에서 사용하는 통계적 대체변수와 어떻게 충돌하는가?
• RQ5 ML 공정성 공동체는 법적 체계가 알고리즘 인과성을 이해하고 평가하는 데 어떻게 기여할 수 있는가?

주요 결과

• ML 공정성 정의는 법적 정의에서 강조하는 의도와 인과성 요소를 간과한 채 결과 기반 상관관계로만 차별을 단순화한다.
• 법적 보호는 대칭적이다—백인 및 남성 피해자가 반차별법을 근거로 소송에 성공한 사례가 있으며, 이는 오직 소수자 집단만 보호받는다는 가정을 뒤집는다.
• 역사적 불평등을 바로잡기 위해 차별적 대우를 정당화하는 법적 원칙인 '하위지위 방지 원칙'은 ML 공정성 연구에서 거의 다뤄지지 않았지만, 편향 제거 기법과의 잠재적 일치성을 지닌다.
• 공정성 측정에서 보호받는 속성을 사용하는 것은 기술적으로 타당하지만 법적으로 논란이 있으며, 법원이 이러한 데이터 사용을 제한함에 따라 감사 가능성과 준수 간 갈등이 발생한다.
• 법적 인과성—즉, 결정이 '보호받는 집단의 영향으로 인해' 내려졌다는 정의—는 모델 내 보호받는 변수의 유무 여부로 신뢰성 있게 유추할 수 없으며, 이는 현재의 안전장치 제도를 약화시킨다.
• 현재의 ML 관행인 '무지 기반의 공정성'은 보호받는 속성을 제거함으로써 법적 기준과 충돌할 수 있으며, 이는 구조적 또는 인과적 편향의 근본 원인을 다루지 않는다.