[논문 리뷰] How Do Fair Decisions Fare in Long-term Qualification?

Xueru Zhang, Ruibo Tu외 5명|arXiv (Cornell University)|2020. 10. 21.

Ethics and Social Impacts of AI참고 문헌 25인용 수 9

한 줄 요약

이 논문은 부분적으로 관측 가능한 마르코프 결정 과정(POMDP) 프레임워크를 사용하여 순차적 의사결정 시스템에서 정적 공정성 제약의 장기적 영향을 연구한다. 공정성 제약은 특성 분포가 결정에 얼마나 민감하게 반응하는지에 따라 자격 격차를 감소시키거나 증가시킬 수 있으며, 이러한 제약 하에서 평형 자격 비율을 달성하는 임계값 기반 정책을 규명한다.

ABSTRACT

Although many fairness criteria have been proposed for decision making, their long-term impact on the well-being of a population remains unclear. In this work, we study the dynamics of population qualification and algorithmic decisions under a partially observed Markov decision problem setting. By characterizing the equilibrium of such dynamics, we analyze the long-term impact of static fairness constraints on the equality and improvement of group well-being. Our results show that static fairness constraints can either promote equality or exacerbate disparity depending on the driving factor of qualification transitions and the effect of sensitive attributes on feature distributions. We also consider possible interventions that can effectively improve group qualification or promote equality of group qualification. Our theoretical results and experiments on static real-world datasets with simulated dynamics show that our framework can be used to facilitate social science studies.

연구 동기 및 목표

• 알고리즘적 결정에서 정적 공정성 제약가 장기적 집단 자격 비율에 미치는 영향을 이해하는 것.
• 순차적 의사결정 과정에서 결정, 개인의 행동, 변화하는 특성 분포 간 피드백 루프를 모델링하는 것.
• POMDP 프레임워크를 사용하여 공정성 제약 하에서 자격 비율의 평형 상태를 특성화하는 것.
• 공정성 제약가 장기적 결과에서 평등을 증진시키거나 격차를 악화시키는 조건을 규명하는 것.
• 평형 상태에서 자격 비율을 향상시키거나 공정성을 증진시키는 효과적인 간섭 전략을 제안하는 것.

제안 방법

• 개개인의 반응이 시간이 지남에 따라 특성과 자격 상태에 영향을 주는 이산 시간 POMDP로 의사결정 과정을 모델링한다.
• 특성 분포를 기반으로 결정을 내리는 임계값 기반 정책를 사용하며, 임계값은 공정성과 효용을 균형 잡는 데에서 유도된다.
• 전이 확률과 공정성 제약에 따라 의존하는 고정점 방정식을 사용하여 평형 자격 비율을 특성화한다.
• 일부 조건 하에서 평형의 존재성과 유일성을 증명하기 위해 평균값 정리와 역함수 분석을 적용한다.
• 이론적 결과를 시뮬레이션하고 검증하기 위해 합성 및 실세계 데이터셋을 활용한다.
• 전이 확률 조정이나 대상 정책 변경과 같은 간섭 전략을 도입하여 장기적 공정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 정적 공정성 제약가 집단 간 장기적 자격 격차를 개선하거나 악화시키는 조건는 무엇인가?
• RQ2 결정과 개인 행동 간 피드백 역학이 평형 자격 비율의 안정성과 공정성에 어떤 영향을 미치는가?
• RQ3 어떤 유형의 정책 간섭이 평형 상태에서 집단 자격의 평등성을 효과적으로 증진시킬 수 있는가?
• RQ4 임계값 기반 정책가 공정성 제약 하에서 안정적인 평형 자격 비율을 달성할 수 있으며, 이러한 평형이 유일해지는 조건는 무엇인가?
• RQ5 특성 분포가 결정 결과에 얼마나 민감하게 반응하는가에 따라 공정성 제약의 장기적 영향은 어떻게 달라지는가?

주요 결과

• 정적 공정성 제약는 자격 전이의 주요 요인이 열등한 집단에 유리한지 불리한지에 따라 자격 격차를 감소시키거나 증가시킬 수 있다.
• 다른 집단의 전이 확률 가능 집합이 겹치는 경우, 자격 비율에 대해 고유한 평형이 존재하여 안정적인 장기적 결과를 보장한다.
• 전이 확률이 결정 결과에 민감할 경우, 피드백 루프로 인해 공정성 제약가 의도치 않은 장기적 격차를 초래할 수 있다.
• 전이 확률 조정(예: 열등한 집단의 노력의 효과성 향상)과 같은 간섭 전략은 더 높은 평형 자격 비율과 더 큰 공정성을 이끌 수 있다.
• 이론적 분석은 임계값 정책가 자격 비율을 안정화할 수 있으며, 비율 함수의 역함수가 잘 정의되고 단조 증가할 경우 평형이 유일하다는 것을 보여준다.
• 합성 및 실세계 데이터셋에서의 실험은 이 프레임워크가 장기적 공정성 결과를 정확히 예측할 수 있으며, 다양한 도메인 간 정책 분석을 지원함을 확인한다.