[논문 리뷰] Projection to Fairness in Statistical Learning.

Thibaut Le Gouic, Jean–Michel Loubes외 1명|arXiv (Cornell University)|2020. 05. 24.

Statistical Mechanics and Entropy참고 문헌 16인용 수 13

한 줄 요약

이 논문은 최적 운반 이론을 활용하여 어떤 회귀 추정기든 그 가장 가까운 공정한 형태로 투영하는 방법을 제안한다. 이는 예측 정확도의 손실를 최소화하면서 공정성을 강제한다. 이 방법은 효율적인 사후 처리를 가능하게 하며 정확도와 공정성의 정확한 트레이드오프를 정량화한다.

ABSTRACT

In the context of regression, we consider the fundamental question of making an estimator fair while preserving its prediction accuracy as much as possible. To that end, we define its projection to fairness as its closest fair estimator in a sense that reflects prediction accuracy. Our methodology leverages tools from optimal transport to construct efficiently the projection to fairness of any given estimator as a simple post-processing step. Moreover, our approach precisely quantifies the cost of fairness, measured in terms of prediction accuracy.

연구 동기 및 목표

• 회귀 추정기의 공정성을 높이되 예측 정확도가 크게 떨어지지 않도록 하는 근본적인 과제를 해결하기 위해.
• 예측 성능를 유지하면서도 '가장 가까운 공정한 추정기'라는 수학적으로 엄밀한 개념을 정의하기 위해.
• 회귀 모델에서의 공정성을 달성하기 위한 계산적으로 효율적인 사후 처리 기법을 개발하기 위해.
• 정확도 감소의 정도로써 공정성의 정확한 비용을 정량화하기 위해.

제안 방법

• 논문은 최적 운반을 이용해 거리 측정을 통해 예측 정확도를 반영하는 메트릭에서 가장 가까운 공정한 추정기를 투영으로 정의한다.
• 공정성 제약 조건은 조건부 모멘트 제약으로 공식화되어 예측값이 민감한 특성과 독립이 되도록 보장한다.
• 최적 운반에서 유도된 볼록 최적화 문제를 통해 투영을 계산하며, 이는 효율적인 수치적 해법을 가능하게 한다.
• 이 방법은 사전에 훈련된 회귀 모델에 적용 가능한 사후 처리 단계로 작동한다.
• 이 프레임워크는 원본 추정기와 투영된 추정기 사이의 거리를 통해 공정성의 정확도 비용을 정확하게 정량화할 수 있다.
• 이 방법은 분포에 종속되지 않으며 원본 모델을 재학습할 필요가 없다.

실험 결과

연구 질문

• RQ1 예측 정확도를 유지하면서도 주어진 회귀 모델에 대해 '가장 가까운' 공정한 추정기를 어떻게 정의할 수 있는가?
• RQ2 회귀에서 공정성 제약 조건을 강제할 때 예측 정확도가 최소로 떨어지는 정도는 무엇인가?
• RQ3 재학습 없이도 효율적으로 추정기의 공정한 투영을 계산할 수 있는가?
• RQ4 최적 운반은 공정성과 정확도 사이의 트레이드오프를 원칙적으로 모델링하는 데 어떻게 활용될 수 있는가?

주요 결과

• 최적 운반을 기반으로 한 메트릭을 사용하여 공정성 제약 조건 하에서 예측 오차를 최소화하는 유일한 투영이 공정한 투영으로 정의된다.
• 이 방법은 공정성-정확도 트레이드오프를 정확하게 계산할 수 있으며, 공정성을 달성하기 위해 필요한 최소 정확도 손실를 정량화한다.
• 투영은 원본 모델의 훈련 절차와 독립적으로 사후 처리 단계에서 효율적으로 계산될 수 있다.
• 이 프레임워크는 어떤 회귀 추정기에도 적용 가능하며 모델의 함수 형태에 대한 가정이 필요하지 않다.
• 이 방법은 분포에 종속되지 않은 공정성 校正 방법을 제공하여 다양한 데이터 분포에서의 강건성을 보장한다.
• 공정성의 비용은 정확하게 측정 가능하며, 민감한 특성과 결과 간의 종속성 정도에 따라 달라진다.