[논문 리뷰] Subjective fairness: Fairness is in the eye of the beholder

Christos Dimitrakakis, Yang Liu외 2명|arXiv (Cornell University)|2017. 05. 31.

Ethics and Social Impacts of AI인용 수 2

한 줄 요약

이 논문은 관측된 데이터에 조건화된 분포 유사성과 완화된 조건부 독립성을 통해 정의되는 베이지안 추론에 기반한 주관적 공정성 프레임워크를 제안한다. 이 프레임워크는 이러한 주관적 기준에 따라 공정성을 달성하기 위한 알고리즘을 도입하며, 소규모 실험적 검증을 통해 실현 가능성을 입증한다.

ABSTRACT

We introduce a natural, and widely applicable framework for fairnessthat relies on the available information. We develop algorithms for achievinga few different notions of fairness within a subjective framework, and in particularrecently proposed concepts of fairness that are grounded in concepts ofsimilarity and conditional independence. We argue that a suitable notion ofsimilarity in the Bayesian setting is distributional similarity conditioned on theobservations. For the latter, as independence is difficult to achieve uniformlyin the Bayesian setting, we suggest a relaxation, for which we provide a smallexperimental demonstration.

연구 동기 및 목표

• 객관적 공정성 정의의 한계를 보완하기 위해 공정성을 관찰자의 지식과 가용 정보에 기반하게 하는 것.
• 관측된 데이터의 수준에 따라 유연하게 조정 가능한 맥락 민감한 공정성 프레임워크를 개발하는 것.
• 관측에 조건화된 분포 유사성을 공정성의 주관적 측정 기준으로 정식화하는 것.
• 베이지안 공정성에서 엄격한 조건부 독립성 요구 조건을 완화하여 실용적으로 이행 가능한 공정성 제약을 만드는 것.
• 소규모 실험적 검증을 통해 제안된 공정성 프레임워크의 실현 가능성을 입증하는 것.

제안 방법

• 절대적 공정성보다는 관측된 특성에 조건화된 결과 분포의 분포 유사성으로 공정성을 정의하는 것.
• 관측된 데이터에 따라 공정성에 대한 신념이 어떻게 변화하는지를 모델링하기 위해 베이지안 조건부 확률을 사용하는 것.
• 실제 적용에서 더 실현 가능하도록 조건부 독립성을 완화하는 것.
• 조건부 분포의 유사성에 기반해 예측을 조정함으로써 공정성을 강제하는 알고리즘을 설계하는 것.
• 실현 가능성과 성능을 평가하기 위해 소규모 실험 환경에 프레임워크를 적용하는 것.

실험 결과

연구 질문

• RQ1 관찰자의 지식과 가용 정보에 따라 달라지는 공정성은 어떻게 의미 있게 정의할 수 있는가?
• RQ2 공정성 평가를 위한 베이지안 프레임워크 내에서 적절한 유사성의 개념은 무엇인가?
• RQ3 조건부 독립성을 어떻게 완화할 수 있을까? 이는 공정성을 유지하면서도 계산 가능성을 유지하는 데 기여한다.
• RQ4 주관적 공정성 프레임워크는 실증적 검증을 통해 구현되고 검증될 수 있는가?

주요 결과

• 관측에 조건화된 분포 유사성에 기반한 주관적 공정성은 객관적 공정성 정의에 비해 더 탄력적이고 맥락 인식 능력이 뛰어난 대안을 제공한다.
• 엄격한 조건부 독립성 요구 조건을 완화함으로써 베이지안 모델에서 공정성 제약을 실현 가능하게 만들 수 있다.
• 소규모 실험적 검증을 통해 프레임워크의 실현 가능성이 입증되었으며, 현실적인 제약 조건 하에서도 공정성이 달성될 수 있음을 보여준다.
• 제안된 접근법은 관찰자의 정보 집합에 맞게 공정성을 맞춤형으로 조정할 수 있어, 실제 응용에서의 적응력을 향상시킨다.