[논문 리뷰] Active Fairness Instead of Unawareness

Boris Ruf, Marcin Detyniecki|arXiv (Cornell University)|2020. 09. 14.

Ethics and Social Impacts of AI참고 문헌 4인용 수 6

한 줄 요약

논문은 '주체적 공정성(Active Fairness)'을 제안하며, '민감한 속성 무지로의 공정성(Fairness Through Unawareness)'에서 벗어나 AI 시스템에서 민감한 속성을 적극적으로 사용하여 차별을 탐지하고 완화하는 패러다임 전환을 이끈다. 보호 그룹의 직접적 모니터링을 통해 검증 가능한 공정성 감사를 가능하게 함으로써, 고차원 데이터에서의 대체 지표 차별 및 숨겨진 편향의 한계를 해결한다.

ABSTRACT

The possible risk that AI systems could promote discrimination by reproducing and enforcing unwanted bias in data has been broadly discussed in research and society. Many current legal standards demand to remove sensitive attributes from data in order to achieve "fairness through unawareness". We argue that this approach is obsolete in the era of big data where large datasets with highly correlated attributes are common. In the contrary, we propose the active use of sensitive attributes with the purpose of observing and controlling any kind of discrimination, and thus leading to fair results.

연구 동기 및 목표

• 공정성을 달성하기 위해 민감한 속성을 제거하는 기존의 법적 및 기술적 접근 방식에 도전하기 위해.
• 고차원적이고 상관관계가 강한 데이터를 가진 현대 AI 시스템에서 '공정성 통한 무지'의 부적합성을 해결하기 위해.
• 민감한 속성을 배제함으로써 간접적 또는 대체 지표 차별을 방지하지 못함을 입증하기 위해.
• 검증 가능하고 감사 가능한 공정성을 위한 필수 조건으로 민감한 속성을 적극적으로 활용할 것을 주장하기 위해.
• 규제 기관 및 이해관계자가 투명하고 데이터 기반의 공정성 모니터링을 통해 편향을 탐지하고 수정할 수 있도록 지원하기 위해.

제안 방법

• 모델 훈련 및 평가 과정에서 민감한 속성을 포함하는 원칙으로 '반분류 원칙'을 대체하기 위해.
• 민감한 속성을 명시적 변수로 사용하여 보호 그룹 간의 차별적 영향을 모니터링하고 측정하기 위해.
• 민감한 데이터의 오용을 방지하기 위해 접근 제한 및 기술적 보안 조치를 구현하기 위해.
• 민감한 속성이 데이터 파이프라인에서 관찰 가능하게 함으로써 통계적 공정성 지표(예: 인구 통합성, 동등한 기회)를 구현하기 위해.
• 보호 그룹의 결과에 대한 투명한 접근을 통해 제3자 및 규제 기관의 감사 가능성을 보장하기 위해.
• 기존의 대체 지표 재구성 기법(예: BISG)을 활용하여 무지 상태가 차별을 방지하지 못함을 증거로 제시하고, 따라서 주체적 감시의 정당성을 입증하기 위해.

실험 결과

연구 질문

• RQ1 훈련 데이터에서 민감한 속성을 제거하는 것이 AI 시스템에서의 차별을 진정으로 방지할 수 있는가?
• RQ2 빅데이터의 고차원적이고 상관관계가 강한 특성들이 민감한 속성에 대해 어느 정도의 대체 지표로 작용하는가?
• RQ3 민감한 속성이 데이터에서 제거된 경우, 공정성은 어떻게 검증 가능하고 감사 가능한가?
• RQ4 민감한 속성이 생략되었지만 그 대체 지표가 그대로 남아 있을 경우 간접적 차별의 위험은 무엇인가?
• RQ5 기술적 보호 조치를 통해 개인정보를 보호하면서도 민감한 속성을 적극적으로 활용하면 공정성이 향상될 수 있는가?

주요 결과

• '공정성 통한 무지' 접근 방식은 비감정적 속성과 민감한 속성 간의 강한 상관관계로 인해 현대 AI에서 부적합하다.
• 우편번호, 성씨, 직업 패턴과 같은 대체 지표는 인종이나 성별과 같은 민감한 정보를 효과적으로 재구성할 수 있다.
• 민감한 속성을 직접적으로 사용하지 않더라도 역사를 반영한 편향이 간접적 상관관계를 통해 지속되고 강화될 수 있다.
• 민감한 속성을 적극적으로 포함함으로써 그룹 간의 차별적 영향을 측정하고 탐지할 수 있는 공정성 평가가 가능해진다.
• 접근 제한과 같은 기술적 보호 조치는 개인정보 위험을 완화하면서도 감사 가능한 공정성을 실현할 수 있다.
• 주체적 공정성으로의 전환은 검증 가능하고 투명하며 책임감 있는 AI 시스템을 지원하며, 자동화된 의사결정에 대한 사회적 신뢰를 증진시킨다.