[논문 리뷰] Interpretable Fairness via Target Labels in Gaussian Process Models.

Thomas Kehrenberg, Zexun Chen외 1명|arXiv (Cornell University)|2018. 10. 12.

Gaussian Processes and Bayesian Inference참고 문헌 14인용 수 4

한 줄 요약

이 논문은 편향을 제어할 수 있는 잠재적 목표 출력을 도입하여 가우시안 프로세스 모델에서의 공정성에 대한 통합적이고 해석 가능한 프레임워크를 제안한다. 공정성을 제약 최적화가 아닌 마진화로 접근함으로써, 표준 도구를 사용한 안정적인 훈련이 가능해지고, 공정성에 대한 직접적인 제어가 가능해지며, 이는 기존 방법에서 복잡한 초모수를 피하는 데 기여한다.

ABSTRACT

The issue of fairness in machine learning models has recently attracted a lot of attention as ensuring it will ensure continued confidence of the general public in the deployment of machine learning systems. We focus on mitigating the harm incurred by a biased machine learning system that offers better outputs (e.g. loans, job interviews) for certain groups than for others. We show that bias in the output can naturally be controlled in probabilistic models by introducing a latent target output. This formulation has several advantages: first, it is a unified framework for several notions of group fairness such as Demographic Parity and Equality of Opportunity; second, it is expressed as a marginalisation instead of a constrained problem; and third, it allows the encoding of our knowledge of what unbiased outputs should be. Practically, the second allows us to avoid unstable constrained optimisation procedures and to reuse off-the-shelf toolboxes. The latter translates to the ability to control the level of fairness by directly varying fairness target rates. In contrast, existing approaches rely on intermediate, arguably unintuitive, control parameters such as covariance thresholds.

연구 동기 및 목표

• 특정 민감성 집단에 유리한 편향된 출력을 완화함으로써 기계 학습 모델의 공정성 문제를 해결하는 것.
• 민감성 평등성과 기회 평등성과 같은 다양한 그룹 공정성 개념을 포괄하는 통합 프레임워크를 개발하는 것.
• 불안정한 제약 최적화를 대체하여 안정적인 훈련을 가능하게 하는 마진화 기반 접근법을 도입하는 것.
• 사용자가 직접 목표 공정성 비율을 설정할 수 있도록 공정성 수준을 직관적으로 제어할 수 있도록 하는 것, 복잡한 중간 매개변수를 피하기 위함이다.

제안 방법

• 각 개별 개인의 편향 없는 예측을 나타내는 잠재적 목표 출력 변수를 도입한다.
• 입력, 잠재적 목표, 관측된 출력의 결합 분포에 대한 마진화로 공정한 예측을 모델링한다.
• 입력과 출력 간의 관계를 잠재적 목표에 조건부로 가우시안 프로세스 회귀로 모델링한다.
• 공정성 제약 조건을 딱딱한 제약 조건이 아닌, 잠재적 목표 공간에 대한 재가중 또는 마진화로 표현한다.
• 제약 최적화를 피함으로써 표준 도메인 GP 추론 도구를 활용할 수 있게 하여 실용적 구현을 가능하게 한다.
• 사용자가 직접 목표 공정성 비율(예: 원하는 민감성 평등성 또는 기회 비율)을 설정할 수 있도록 하여 공정성 조정을 직관적으로 만들 수 있다.

실험 결과

연구 질문

• RQ1 민감성 평등성과 기회 평등성과 같은 다양한 정의에 걸쳐 가우시안 프로세스 모델의 공정성을 어떻게 통합할 수 있는가?
• RQ2 확률적 모델에서 불안정한 제약 최적화 절차에 의존하지 않고도 공정성을 달성할 수 있는가?
• RQ3 복잡한 초모수 대신 이해하기 쉬운 사용자 지정 목표 비율을 통해 공정성은 어느 정도 제어할 수 있는가?
• RQ4 안정성과 성능 측면에서 마진화 기반 공식화는 제약 접근법에 비해 어떻게 비교되는가?

주요 결과

• 이 논문에서 제안한 방법은 제약 최적화를 피함으로써 안정적인 훈련을 달성하여 표준 GP 추론 도구상에서의 활용이 가능해진다.
• 공정성은 목표 비율을 직접 설정함으로써 직접 제어할 수 있어 실무자에게 직관적인 인터페이스를 제공한다.
• 이 프레임워크는 단일 확률적 공식화 안에서 여러 공정성 정의를 자연스럽게 통합한다.
• 이전 방법에서 사용된 공분산 임계값과 같은 이해하기 어려운 중간 매개변수에 대한 의존도를 제거한다.