[논문 리뷰] Provably Fair Representations

Daniel McNamara, Cheng Soon Ong외 1명|arXiv (Cornell University)|2017. 10. 12.

Ethics and Social Impacts of AI참고 문헌 16인용 수 34

한 줄 요약

이 논문은 데이터 사전처리 접근법을 통해 군집 정의, 개인 정의, 목표 작업 유틸리티를 보장하는 증명 가능하게 공정한 표현 학습 프레임워크를 제안한다. 민감한 정보를 제거하면서도 예측 유틸리티를 유지하는 표현 함수를 학습함으로써, 데이터 생산자, 사용자, 규제 기관을 분리한 거버넌스 모델에서의 오해의 비용에 대한 이론적 보장을 제공하고, 그 비용에 대한 경계를 제시한다.

ABSTRACT

Machine learning systems are increasingly used to make decisions about people's lives, such as whether to give someone a loan or whether to interview someone for a job. This has led to considerable interest in making such machine learning systems fair. One approach is to transform the input data used by the algorithm. This can be achieved by passing each input data point through a representation function prior to its use in training or testing. Techniques for learning such representation functions from data have been successful empirically, but typically lack theoretical fairness guarantees. We show that it is possible to prove that a representation function is fair according to common measures of both group and individual fairness, as well as useful with respect to a target task. These provable properties can be used in a governance model involving a data producer, a data user and a data regulator, where there is a separation of concerns between fairness and target task utility to ensure transparency and prevent perverse incentives. We formally define the 'cost of mistrust' of using this model compared to the setting where there is a single trusted party, and provide bounds on this cost in particular cases. We present a practical approach to learning fair representation functions and apply it to financial and criminal justice datasets. We evaluate the fairness and utility of these representation functions using measures motivated by our theoretical results.

연구 동기 및 목표

• 대출 승인 또는 채용과 같은 개인에 대한 결정을 내리는 기계 학습 시스템에서 예측 유틸리티를 훼손하지 않으면서도 정의를 보장함으로써 기계 학습 시스템의 정의 문제를 해결하는 것.
• 데이터 생산자, 사용자, 규제 기관을 분리하는 거버넌스 모델을 체계화하여 악성 인centives를 줄이고 투명성을 향상시키는 것.
• 학습된 표현 함수에서 군집 정의, 개인 정의, 목표 유틸리티에 대한 이론적 보장을 제공하는 것.
• 민감 변수에 대한 전체 액세스가 가능한 신뢰할 수 있는 설정과 비교했을 때, 정의와 유틸리티를 분리함으로써 발생하는 성능 저하인 '오해의 비용'을 정량화하는 것.
• 실용적인 방법을 개발하여 공정한 표현을 학습하고 금융 및 범죄 사법 데이터셋에서 검증하는 것.

제안 방법

• 이 방법은 입력 특징 X를 청소된 표현 X_f로 매핑하는 표현 함수 f(x)를 사용하며, 민감 정보 S를 제거하면서도 목표 Y에 대한 예측 능력을 유지한다.
• 통계적 평등성(SP)과 동등 기회(EO)를 통한 군집 정의를 증명하기 위한 공식적 프레임워크를 도입하고, 입력 변형에 대한 불변성 지표(IU)를 통한 개인 정의를 정의한다.
• 리프시츠 연속성과 조건부 독립성 가정을 사용하여 이론적 경계를 유도함으로써, 정의와 유틸리티의 상호 교환 가능성이 정량화됨을 보여준다.
• 정의와 유틸리티를 동시에 최적화하는 실용적 학습 알고리즘을 제안하며, 오해의 비용에 대한 이론적 보장을 제공한다.
• 위험 분해를 사용: R_Y(Ŷ_f) = R_Y(Ŷ) + E[d(x, f(x))] × (l_Y + λl_S)로 표현 오차를 목표 유틸리티 손실과 연결한다.
• 전체 확률의 법칙, 베이즈의 정리, 삼각 부등식을 사용하여 정의 및 유틸리티 메트릭의 경계를 도출하는 이론적 결과를 유도한다.

실험 결과

연구 질문

• RQ1 통계적 평등성과 동등 기회와 같은 군집 정의 측정 기준에서 표현 함수 f(x)가 증명 가능하게 공정한가?
• RQ2 표현 함수는 개인 정의를 어느 정도 유지하는가? 개인 정의는 유사한 입력이 유사한 결정을 받는 것으로 정의된다.
• RQ3 정의와 유틸리티를 분리함으로써 목표 작업(예: 대출 불이행 예측)에서 얼마나 많은 유틸리티가 손실되는가?
• RQ4 민감 변수에 액세스할 수 없는 데이터 사용자에 대해 오해의 비용은 어떻게 되는가? 신뢰할 수 있는 설정과 비교했을 때의 이론적 비용은 무엇인가?
• RQ5 공정한 표현을 학습할 수 있는 실용적인 알고리즘을 설계할 수 있는가? 이 알고리즘은 정의와 유틸리티에 대한 증명 가능 보장을 제공하는가?

주요 결과

• 논문은 표현 함수 f(x)가 통계적 평등성(SP)과 불균형 지수(DI)로 측정된 민감 그룹 간 결론 비율의 격차를 줄임으로써 군집 정의를 향상시킬 수 있음을 증명한다.
• 개인 정의는 표현 함수 하에서 유지되며, 결정 불변성에 대한 경계가 존재함: IU_D,d_ε(Ŷ_f, X) ≤ 2δ로, 이는 유사한 입력이 유사한 결정을 받음을 보장한다.
• 정의의 유틸리티 비용은 E[d(x, f(x))] × (l_Y + λl_S)로 경계되며, 이는 표현 오차가 목표 작업 성능에 직접적인 영향을 미침을 보여준다.
• 오해의 비용—정의와 유틸리티를 분리함으로써 발생하는 성능 저하—는 경계가 있으며 정량화 가능하며, 특히 원래 모델 Ŷ*가 개인적으로 정의된 경우에 특히 그렇다.
• 금융 및 범죄 사법 데이터셋에 대한 실증 평가에서, 이 방법은 최소한의 유틸리티 손실로 높은 수준의 정의를 달성함을 확인하여 이론적 경계를 검증한다.
• 이론적 분석은 원래 모델 Ŷ*가 개인적으로 정의되어 있을 경우, 표현 기반 모델 Ŷ_f가 이 성질을 변형 경계 ε까지 상속함을 보여준다.