[논문 리뷰] Fairness risk measures

Robert C. Williamson, Aditya Krishna Menon|arXiv (Cornell University)|2019. 05. 24.

Health Systems, Economic Evaluations, Quality of Life인용 수 29

한 줄 요약

이 논문은 민감한 특성에 의해 정의된 하위군 간에 일치하는 기대 손실을 보장하는 새로운 공정성 정의를 제안한다. 이는 이전의 작업을 일반화하여 이산형 및 실수형 민감한 특성을 모두 다룰 수 있도록 한다. 공정성과 수학적 금융의 위험 측도를 연결함으로써, 조건부가치의 위험(CVaR) 기반의 볼록 최적화 목표를 도입하여 강력한 이론적 보장을 갖춘 효율적이고 확장 가능한 공정한 학습을 가능하게 한다.

ABSTRACT

Ensuring that classifiers are non-discriminatory or fair with respect to a sensitive feature (e.g., race or gender) is a topical problem. Progress in this task requires fixing a definition of fairness, and there have been several proposals in this regard over the past few years. Several of these, however, assume either binary sensitive features (thus precluding categorical or real-valued sensitive groups), or result in non-convex objectives (thus adversely affecting the optimisation landscape). In this paper, we propose a new definition of fairness that generalises some existing proposals, while allowing for generic sensitive features and resulting in a convex objective. The key idea is to enforce that the expected losses (or risks) across each subgroup induced by the sensitive feature are commensurate. We show how this relates to the rich literature on risk measures from mathematical finance. As a special case, this leads to a new convex fairness-aware objective based on minimising the conditional value at risk (CVaR).

연구 동기 및 목표

• 기존의 공정성 정의가 이진 민감한 특성에 국한되거나 비볼록 최적화 문제를 야기하는 한계를 해결하기 위해.
• 기존 제안들을 일반화하면서도 일반적인 민감한 특성(이산형 및 실수형 그룹 포함)을 지원할 수 있는 공정성 정의를 개발하기 위해.
• 공정성 인식 학습을 위한 볼록 최적화 목표를 제시하여 실무에서의 취급 가능성과 확장 가능성을 향상시키기 위해.
• 머신러닝의 공정성과 수학적 금융의 위험 측도 이론 간의 연결 고리를 맺기 위해.
• 하위군 위험의 조건부가치의 위험(CVaR)을 최소화하면 볼록이고 확장 가능하며 이론적으로 타당한 공정성 목표가 도출됨을 보여주기 위해.

제안 방법

• 민감한 특성에 의해 유도된 하위군 간 기대 손실(위험)을 동일하게 맞추는 공정성 정의를 제안하여 공정성의 일치성을 확보한다.
• 특히 조건부가치의 위험(CVaR)을 중심으로 한 수학적 금융의 위험 측도 프레임워크 내에서 공정성 제약 조건을 정의한다.
• 민감한 하위군 간 손실 분포의 CVaR를 최소화함으로써 볼록 최적화 목표를 유도한다.
• 제안된 프레임워크를 지도 학습 작업에 적용하여 공정성 제약 조건을 통합한 엔드 투 엔드 학습을 가능하게 한다.
• 최종적으로 유도된 최적화 문제가 볼록하므로 전역 수렴성과 효율적인 계산이 보장됨을 보여준다.
• 이전의 공정성 정의를 일반화하여 연속형 및 다중 클래스 특성과 같은 임의의 민감한 특성을 허용한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 이산형 및 실수형 그룹을 포함한 임의의 민감한 특성에 적용 가능한 방식으로 공정성을 정의할 수 있는가?
• RQ2 이론적으로 타당하면서도 계산적으로 취급 가능한 공정성 목표를 구성할 수 있는가?
• RQ3 머신러닝의 공정성과 수학적 금융의 위험 측도 간의 관계는 무엇인가?
• RQ4 하위군 위험의 CVaR를 최소화하면 확장 가능한 훈련에 적합한 볼록 최적화 문제로 이어지는가?
• RQ5 제안된 공정성 정의는 일반화성과 강건성 측면에서 기존 정의와 비교해 어떻게 다른가?

주요 결과

• 제안된 공정성 정의는 연속형 및 다중 클래스 특성과 같은 어떤 종류의 민감한 특성에도 적용 가능하게 기존 접근을 일반화한다.
• 이 방법은 볼록 최적화 목표를 도출하여 공정한 분류기의 효율적이고 전역 최적의 훈련을 가능하게 한다.
• 공정성과 위험 측도를 연결함으로써, 이론적으로 수학적 금융의 강력한 성질를 그대로 이어받는다.
• CVaR를 공정성 목표로 사용함으로써 가장 성과가 열 劣한 하위군이 우선적으로 고려되어 공정성 향상이 이루어진다.
• 볼록 최적화를 통한 확장 가능한 훈련을 지원함으로써 실생활 응용에 실용적이다.
• 이 방법은 통합된 볼록 공식화 아래에서 이전의 공정성 정의(예: 등가된 기회, 등가된 오차)를 모두 포함하고 확장한다.