[논문 리뷰] Implications of the AI Act for Non-Discrimination Law and Algorithmic Fairness

Luca Deck, Jan-Laurin Müller외 3명|arXiv (Cornell University)|2024. 03. 29.

Digital Transformation in LawEconomics, Econometrics and Finance인용 수 3

한 줄 요약

이 논문은 유럽연합의 인공지능법이 높은 위험을 가진 인공지능 시스템의 설계 단계에 비차별 의무를 통합함으로써 법적 비차별 법과 기술적 알고리즘 공정성 사이의 격차를 메운다고 주장한다. 이 법의 프레임워크는 특정 사회적 맥락에 맞는 공정성 지표와 편향 탐지 프로토콜을 의무화함으로써 양 분야의 집행 과제를 해결할 수 있으며, 지표 선택과 통계적 검증의 신뢰성 사이의 핵심적 트레이드오프를 제기한다.

ABSTRACT

The topic of fairness in AI, as debated in the FATE (Fairness, Accountability, Transparency, and Ethics in AI) communities, has sparked meaningful discussions in the past years. However, from a legal perspective, particularly from the perspective of European Union law, many open questions remain. Whereas algorithmic fairness aims to mitigate structural inequalities at design-level, European non-discrimination law is tailored to individual cases of discrimination after an AI model has been deployed. The AI Act might present a tremendous step towards bridging these two approaches by shifting non-discrimination responsibilities into the design stage of AI models. Based on an integrative reading of the AI Act, we comment on legal as well as technical enforcement problems and propose practical implications on bias detection and bias correction in order to specify and comply with specific technical requirements.

연구 동기 및 목표

• 법적 비차별 법과 기술적 알고리즘 공정성 접근 방식 사이의 괴리 분석
• 유럽연합의 인공지능법이 법적 및 기술적 공정성 논의 사이의 다리 역할을 어떻게 수행할 수 있는지 검토
• 차별을 유도할 가능성이 있는 편향을 탐지하기 위한 '적절한' 공정성 지표를 정의하는 데 발생하는 실질적 과제 특정
• 인공지능법의 규제 프레임워크를 통해 법적 및 기술적 영역 양쪽의 집행 문제 해결
• 법적 및 기술적 요구사항과 일치하는 편향 탐지 및 수정을 위한 실천 가능한 지침 제공

제안 방법

• 높은 위험 인공지능 시스템에 관한 유럽연합의 인공지능법 조항에 대한 통합적 법적 및 기술적 분석 수행
• 비차별의 법적 개념을 이용 가능한 기술적 공정성 지표와 매핑하여 맥락 기반 적용성 강조
• 예를 들어 z-검정과 같은 통계적 가설 검정을 사용하여 인구 통계적 평등성과 같은 공정성 지표 준수 여부 평가
• 표본 크기와 수용률이 다양한 경우에 편향 탐지에서 I형 오류와 II형 오류 비율에 미치는 영향 분석
• 사회적 맥락과 법적 기준에 기반한 공정성 지표 선택 프레임워크 제안
• GDPR에 따른 특수 범주 데이터 처리가 공정성에 민감한 인공지능에서 훈련 데이터 사용의 정당화 역할을 하는지 평가

실험 결과

연구 질문

• RQ1 유럽연합의 인공지능법은 비차별 법의 사후 집행 모델과 알고리즘 공정성의 사전 설계 중심 접근 방식을 어떻게 조율할 수 있는가?
• RQ2 유럽연합의 인공지능법의 요구 사항 하에서 다양한 사회적 맥락에 적합한 기술적 공정성 지표는 무엇인가?
• RQ3 차별을 유도할 가능성이 있는 편향을 신뢰성 있게 탐지하기 위해 필요한 통계 기준은 무엇인가?
• RQ4 표본 크기와 수용률은 편향 탐지 테스트의 신뢰성에 어떻게 영향을 미치는가?
• RQ5 인공지능법의 프레임워크는 법적 및 기술적 공정성 집행의 격차를 어떻게 해소할 수 있는가?

주요 결과

• 인공지능법은 비차별 책임을 배포 후 소송 단계에서 설계 단계로 이동시켜 법적 및 기술적 공정성 목표를 조율한다.
• 예를 들어 z-검정과 같은 통계적 가설 검정은 인구 통계적 평등성과 같은 공정성 지표 준수 여부를 검증하는 데 사용될 수 있지만, 그 신뢰성은 표본 크기와 수용률에 따라 달라진다.
• I형 오류(위반을 탐지하지 못함)는 그룹 간 격차가 동일한 상황에서도 표본 크기가 커지고 수용률이 높아질수록 크게 감소한다.
• 불균형한 데이터셋의 경우 수용률이 표본 크기 영향을 더 크게 받으며, 1800:200 비율의 분할에서 지원자 수용률이 980에서 780으로 감소할 경우 I형 오류가 약 6%p 감소한다.
• 일괄적인 공정성 지표로는 부족하며, 법적 비차별 개념과 기술적 공정성 정의 사이의 맥락 기반 일치가 필수적이다.
• 인공지능법은 공정성 목적을 위해 GDPR에 따라 특수 범주 데이터 처리를 허용하지만, 이는 복잡한 공공-민간 이해관계의 상충을 야기한다.