[논문 리뷰] Fairness Through Awareness

Cynthia Dwork, Moritz Hardt외 3명|arXiv (Cornell University)|2011. 04. 20.

Privacy-Preserving Technologies in Data참고 문헌 14인용 수 43

한 줄 요약

이 논문은 분류에 대한 정당성 프레임워크를 제안하며, 작업에 특화된 유사도 메트릭을 사용하여 유사한 개인이 유사하게 대우되도록 보장한다. 이는 분류기의 리프시츠 조건을 통해 수식화된다. 정의된 공정성은 선형 프로그래밍을 통해 최적화되어 유틸리티를 극대화하면서도 개인의 공정성을 보장한다. 이 접근법은 정당성의 평균을 훼손하지 않으면서도 간접적 차별을 허용하지 않으며, 통계적 평형을 달성할 수 있음을 보여준다.

ABSTRACT

We study fairness in classification, where individuals are classified, e.g., admitted to a university, and the goal is to prevent discrimination against individuals based on their membership in some group, while maintaining utility for the classifier (the university). The main conceptual contribution of this paper is a framework for fair classification comprising (1) a (hypothetical) task-specific metric for determining the degree to which individuals are similar with respect to the classification task at hand; (2) an algorithm for maximizing utility subject to the fairness constraint, that similar individuals are treated similarly. We also present an adaptation of our approach to achieve the complementary goal of "fair affirmative action," which guarantees statistical parity (i.e., the demographics of the set of individuals receiving any classification are the same as the demographics of the underlying population), while treating similar individuals as similarly as possible. Finally, we discuss the relationship of fairness to privacy: when fairness implies privacy, and how tools developed in the context of differential privacy may be applied to fairness.

연구 동기 및 목표

• 분류 시스템에서 차별을 방지하면서도 분류기의 유틸리티를 유지하는 데 도전 과제를 해결한다.
• 군집 수준의 통계가 아닌 개인 간 유사성에 기반한 공정성의 규범적 프레임워크를 개발한다.
• 유틸리티를 극대화하기 위한 최적화 문제로 공정성을 수식화하며, 유사도 메트릭에 기반한 리프시츠 제약 조건을 적용한다.
• 공정성과 프라이버시의 관계를 탐색하며, 특히 공정성 제약 조건이 보호된 속성에 대한 정보 유출을 어떻게 제한할 수 있는지 분석한다.
• 개인의 공정성이 통계적 평형과 같은 군집 수준의 공정성 특성과 어떻게 일치하거나 유도할 수 있는지 조사한다.

제안 방법

• 주어진 분류 작업에 대해 개인 간 유사도를 측정하기 위해 작업에 특화된 공개적인 거리 메트릭 $ d(x,y) $ 를 정의한다.
• 공정성을 리프시츠 조건으로 수식화한다: 개인 $ x $ 와 $ y $ 의 결과 분포 간 통계적 거리가 $ d(x,y) $ 이내여야 한다.
• 분류기를 개인에서 결과 분포로의 랜덤 매핑으로 모델링하여, 개인 특성의 미세한 변화가 결과 확률에 작은 변화만 유도하도록 보장한다.
• 리프시츠 공정성 제약 조건을 만족시키는 조건 하에 기대 유틸리티 손실을 최소화하는 선형 프로그래밍 문제로 공정한 분류기 설계를 수립한다.
• 선형 프로그래밍의 이중성 원리를 활용하여 공정성 제약 조건을 해석하고 유틸리티와의 트레이드오프를 분석한다.
• 개인의 공정성과 통계적 평형 보장을 결합함으로써 '공정한 특혜'를 달성하기 위해 프레임워크를 변형한다.

실험 결과

연구 질문

• RQ1 군집 수준의 통계에 의존하지 않고, 유사한 개인이 유사하게 대우되는 방식으로 분류에서의 공정성을 어떻게 수식화할 수 있는가?
• RQ2 유사도 메트릭을 기반으로 정의된 개인의 공정성을 효율적으로 최적화하면서도 분류기의 유틸리티를 유지할 수 있는가?
• RQ3 리프시츠 제약 조건을 통한 개인의 공정성과 통계적 평형과 같은 군집 수준의 공정성 간의 관계는 어떠한가?
• RQ4 분류에서의 공정성 제약 조건이 보호된 속성에 대한 추론을 방지함으로써 프라이버시 보호 수 Mittel로 작용할 수 있는가?
• RQ5 개인의 공정성이 어떤 조건에서 민감한 속성에 대한 정보 유출을 유도하거나 방지하는가?

주요 결과

• 이 프레임워크는 분류기의 리프시츠 조건을 통해 공정성을 수식화하여, 작업에 특화된 메트릭으로 정의된 유사한 개인이 유사한 결과 분포를 받도록 보장한다.
• 공정한 분류기 설계를 위한 최적화 문제는 선형 프로그래밍으로 효율적으로 해결될 수 있어 실용적 구현이 가능하다.
• 리프시츠 조건을 통한 개인의 공정성은 특정 조건 하에서 통계적 평형을 유도할 수 있지만, 통계적 평형만으로는 개인 수준의 공정성을 보장하지는 못한다.
• 개인의 공정성과 민감도 평형 제약 조건을 결합함으로써 이 프레임워크는 '공정한 특혜'를 달성할 수 있도록 변형될 수 있다.
• 통계적 평형은 보호된 군집에 대한 정보를 숨길 수는 있지만 간접 추론에 취약하다. 광고주들은 'HIV 양성'이 보호된 상태라도 '에이즈'와 같은 하위군을 여전히 타겟팅할 수 있다.
• 적절하게 선택된 메트릭을 사용한 리프시츠 조건은 통계적 평형보다 더 강력한 프라이버시 보장을 제공할 수 있으며, 이는 향후 연구가 필요하다.