[논문 리뷰] On Discrimination Discovery and Removal in Ranked Data using Causal Graph

Yongkai Wu, Lu Zhang외 1명|arXiv (Cornell University)|2018. 03. 05.

Ethics and Social Impacts of AI참고 문헌 29인용 수 4

한 줄 요약

이 논문은 순위 데이터에서 직접적이고 간접적 차별을 탐지하고 제거하기 위해 인과적 그래프 기반 프레임워크를 제안한다. 순위 위치를 연속적 자격 점수로 매핑함으로써, 혼합 변수 인과 그래프로의 경로별 영향 분석을 확장하여 순위 시스템에서 정확한 차별 측정이 가능해지며, 인과적 편향을 포착하지 못하는 통계적 평등성 방법보다 뛰어난 성능을 보인다.

ABSTRACT

Predictive models learned from historical data are widely used to help companies and organizations make decisions. However, they may digitally unfairly treat unwanted groups, raising concerns about fairness and discrimination. In this paper, we study the fairness-aware ranking problem which aims to discover discrimination in ranked datasets and reconstruct the fair ranking. Existing methods in fairness-aware ranking are mainly based on statistical parity that cannot measure the true discriminatory effect since discrimination is causal. On the other hand, existing methods in causal-based anti-discrimination learning focus on classification problems and cannot be directly applied to handle the ranked data. To address these limitations, we propose to map the rank position to a continuous score variable that represents the qualification of the candidates. Then, we build a causal graph that consists of both the discrete profile attributes and the continuous score. The path-specific effect technique is extended to the mixed-variable causal graph to identify both direct and indirect discrimination. The relationship between the path-specific effects for the ranked data and those for the binary decision is theoretically analyzed. Finally, algorithms for discovering and removing discrimination from a ranked dataset are developed. Experiments using the real dataset show the effectiveness of our approaches.

연구 동기 및 목표

• 통계적 평등성의 한계를 해결함으로써 공정성 인식 순위에서의 인과적 차별을 포착하지 못하는 문제를 해결한다.
• 기존의 분류를 위한 인과적 방법이 순위의 상호의존적이고 순열 기반 성격으로 인해 순위 데이터에 직접 적용될 수 없다는 점을 인지한다.
• 순위 위치를 연속적 점수로 모델링하여 순위 데이터셋에서의 인과적 추론이 가능하도록 하는 방법을 개발한다.
• 혼합 변수 인과 그래프(이산적 속성 + 연속적 점수)에 대해 경로별 영향 분석을 확장하여 차별 탐지에 활용한다.
• 직접적 및 간접적 차별을 제거함으로써 공정한 순위를 재구성하는 알고리즘을 제안한다.

제안 방법

• 브래들리-터니 모델을 사용해 순위 위치를 연속적 점수로 매핑함으로써 이산적 순열을 연속적 자격 공간으로 변환한다.
• 이산적 프로필 속성(예: 인종, 우편번호)과 연속적 점수 변수를 조합한 혼합 변수 인과 그래프를 구축한다.
• 연속적 및 이산적 변수를 모두 처리할 수 있도록 경로별 영향 기법을 확장하여 인과적 영향의 분해를 가능하게 한다.
• 인과 그래프 내 특정 경로를 따라 경로별 영향을 정의하고 계산함으로써 직접적 및 간접적 차별을 정의한다.
• 이론적 분석을 통해 순위 데이터에서의 경로별 영향과 이진 분류 설정에서의 경로별 영향 간의 관계를 수립한다.
• 경로별 영향을 정량화하여 차별을 탐지하는 알고리즘과 차별적 경로를 제거하기 위해 점수를 조정함으로써 공정한 순위를 재구성하는 알고리즘을 개발한다.

실험 결과

연구 질문

• RQ1 어떻게 인과적 추론을 사용하여 순위 데이터에서의 직접적 및 간접적 차별을 공식적으로 정의하고 측정할 수 있는가?
• RQ2 통계적 평등성 기반의 공정성 메트릭은 순위 시스템에서 인과적 차별을 어느 정도 탐지하지 못하는가?
• RQ3 연속적 점수와 이산적 속성을 포함한 혼합 변수 모델에 대해 인과 그래프의 경로별 영향을 어떻게 적응시킬 수 있는가?
• RQ4 순위 데이터에서의 경로별 영향과 이진 분류 문제에서의 경로별 영향 간의 이론적 관계는 무엇인가?
• RQ5 직접적 및 간접적 차별을 제거하면서도 엄연한 능력 기반 순서를 유지하기 위해 점수를 수정함으로써 공정한 순위를 재구성할 수 있는가?

주요 결과

• 제안된 방법은 통계적 평등성 기반 방법이 간과할 수 있는 직접적 및 간접적 차별을 성공적으로 탐지한다.
• 독일 신용 데이터셋에 대한 실험 결과, 통계적 평등성은 잘못된 공정성 평가를 초래할 수 있다—예를 들어, 그룹 비율이 균형을 이루고 있을 경우 명백한 편향을 가리킬 수 있다.
• 인과 그래프 접근법은 보호 그룹에 2점의 보너스를 주는 랭커가 조건부로 간접적 차별을 유발하고 있음을 정확히 식별한다. 이는 통계적 평등성이 만족되더라도 마찬가지다.
• 경로별 영향 분석을 통해 순위에서의 차별은 직접적(보호 속성 → 점수) 및 간접적(보호 속성 → 기타 속성 → 점수) 경로를 통해 발생한다는 것이 드러났다.
• 공정한 순위 재구성 알고리즘은 후보자의 능력 기반 순서를 유지하면서도 차별적 영향을 효과적으로 제거한다.
• 이론적 분석을 통해 순위 데이터에서의 경로별 영향이 이진 분류의 경우를 일반화함을 확인하였으며, 이는 순위 시스템에서 원칙적인 공정성 평가를 가능하게 한다.