[논문 리뷰] Preference-Informed Fairness

Michael P. Kim, Aleksandra Korolova외 2명|arXiv (Cornell University)|2019. 04. 03.

Ethics and Social Impacts of AI참고 문헌 28인용 수 5

한 줄 요약

이 논문은 개인의 선호에 따라 결과의 허용 가능한 편차를 허용하면서도 차별 대비 보호를 유지하는 새로운 형평성 프레임워크인 선호도 기반 개인 형평성(PIIF)을 소개한다. 이는 개인 형평성(IF)을 완화함으로써 보호받는 집단을 포함한 개인들에게 IF만으로는 달성할 수 없는 더 유리한 결과를 제공하며, 선호도 기반 형평성(EF)보다 더 큰 유연성을 제공한다. 또한 PIIF 제약 조건 하에서 볼록 목적함수에 대해 효율적인 최적화를 가능하게 한다.

ABSTRACT

We study notions of fairness in decision-making systems when individuals have diverse preferences over the possible outcomes of the decisions. Our starting point is the seminal work of Dwork et al. which introduced a notion of individual fairness (IF): given a task-specific similarity metric, every pair of individuals who are similarly qualified according to the metric should receive similar outcomes. We show that when individuals have diverse preferences over outcomes, requiring IF may unintentionally lead to less-preferred outcomes for the very individuals that IF aims to protect. A natural alternative to IF is the classic notion of fair division, envy-freeness (EF): no individual should prefer another individual's outcome over their own. Although EF allows for solutions where all individuals receive a highly-preferred outcome, EF may also be overly-restrictive. For instance, if many individuals agree on the best outcome, then if any individual receives this outcome, they all must receive it, regardless of each individual's underlying qualifications for the outcome. We introduce and study a new notion of preference-informed individual fairness (PIIF) that is a relaxation of both individual fairness and envy-freeness. At a high-level, PIIF requires that outcomes satisfy IF-style constraints, but allows for deviations provided they are in line with individuals' preferences. We show that PIIF can permit outcomes that are more favorable to individuals than any IF solution, while providing considerably more flexibility to the decision-maker than EF. In addition, we show how to efficiently optimize any convex objective over the outcomes subject to PIIF for a rich class of individual preferences. Finally, we demonstrate the broad applicability of the PIIF framework by extending our definitions and algorithms to the multiple-task targeted advertising setting introduced by Dwork and Ilvento.

연구 동기 및 목표

• 개인 형평성(IF)이 개인의 결과에 대한 다양한 선호도가 존재하는 환경에서 보호받는 집단이 선호하지 않는 결과를 초래할 수 있는 한계를 해결하기 위해.
• 선호도에 부합하는 편차를 허용함으로써 IF를 완화하는 형평성 개념을 제안하여, 차별 방지 보장을 유지하면서도 개인의 복지를 향상시키기 위해.
• PIIF 제약 조건 하에서 볼록 목적함수에 대한 효율적인 최적화 프레임워크를 개발하여 실용적 구현 가능성을 확보하기 위해.
• 표적 광고와 같은 다중 작업 환경으로의 PIIF 프레임워크 확장을 통해 광범위한 적용 가능성을 입증하기 위해.
• 알고리즘 시스템에서 형평성, 개인의 선호도 충족, 의사결정자 유연성 간의 상호 상충 관계를 조사하기 위해.

제안 방법

• 개인 형평성(IF)의 완화로써 선호도 기반 개인 형평성(PIIF)을 제안하며, 개인의 선호에 부합하는 경우에만 결과 분포가 IF에서 벗어나도록 허용한다.
• 유사도 측도에 대한 리프시츠 조건을 정의함으로써 PIIF를 정의하며, 개인의 선호에 기반한 완화를 통해, 개인이 다른 IF 준수 대안보다 자신이 할당된 결과를 더 선호할 경우에만 편차를 허용한다.
• 선호도 기반 통계적 평등성(PISP)을 도입하며, 개인이 현재 결과를 통계적 평등성 준수 대안보다 선호할 경우에 한해 평등성에서의 편차를 허용한다.
• PIIF 제약 조건 하에서 어떤 볼록 목적함수라도 효율적으로 최적화할 수 있는 절차를 개발하며, 볼록 프로그래밍과 선호도 기반 제약 조건을 활용한다.
• 표적 광고와 같은 다중 작업 환경으로의 확장을 위해, 다중 결과 및 작업 간 선호도 구조를 처리할 수 있도록 PIIF를 적응시킨다.
• 선호도 추출 기법과 유용성 모델링을 활용하여 행동 데이터로부터 개인의 선호를 추정하며, 추정 과정에서 발생할 수 있는 편향을 고려한다.

실험 결과

연구 질문

• RQ1 차별 방지 보호를 훼손하지 않으면서도 다양한 개인의 선호를 더 잘 수용할 수 있도록 개인 형평성을 원칙적으로 완화할 수 있는가?
• RQ2 유사한 개인들이 불공정하게 대우당하지 않도록 하면서도 개인의 복지를 향상시킬 수 있도록 형평성을 재정의할 수 있는가?
• RQ3 알고리즘 시스템에서 형평성, 선호도 충족, 의사결정자 유연성 간의 상호 상충 관계는 어떠한가?
• RQ4 새로운 PIIF 형평성 제약 조건 하에서 결과 분포에 대해 효율적인 최적화를 달성할 수 있는가?
• RQ5 표적 광고와 같은 다중 작업 의사결정 시나리오로의 PIIF 프레임워크 확장을 어떻게 수행할 수 있는가?

주요 결과

• PIIF는 IF 준수 솔루션보다 개인에게 더 유리한 결과를 가능하게 하며, 소수 선호 집단에게 특히 유리하다.
• PIIF는 선호도 기반 형평성(EF)보다 의사결정자에게 훨씬 더 큰 유연성을 제공한다. EF는 동일한 결과를 선호하는 모든 개인이 동일한 결과를 받아야 하기 때문이다.
• PIIF 제약 조건 하에서 어떤 볼록 목적함수라도 효율적으로 최적화할 수 있어 실세계 적용에 있어 계산적으로 실현 가능하다.
• 선호도 기반 통계적 평등성(PISP)은 표준 통계적 평등성 이외의 더 넓은 공정한 솔루션 집합을 제공하며, 선호도에 부합하는 편차를 허용한다.
• PIIF 프레임워크는 결과 공간이 비대칭일 경우에도 어느 정도 편향된 결과 공간에 대해 회복력이 있으며, 소수 집단이 선호하는 결과를 허용한다.
• 표적 광고 환경에서의 실증적 검증 결과, PIIF는 유사도 측도 하에서 공정성을 유지하면서도 높은 개인 만족도를 달성할 수 있다.