[논문 리뷰] Learning Fair and Transferable Representations

Luca Oneto, Michele Donini외 2명|arXiv (Cornell University)|2019. 06. 25.

Ethics and Social Impacts of AI참고 문헌 35인용 수 8

한 줄 요약

이 논문은 다중 작업 학습 프레임워크를 제안하며, 저질러진 행렬 분해를 활용해 다양한 작업 간에 공유되는 공정한 표현을 학습하고, 인구 통계적 평등성을 보장한다. 표현 행렬에 직접적으로 공정성 제약을 부과함으로써, 새로운 작업에 대해 예측 정확도와 공정성 지표 모두에서 뛰어난 전이 능력을 달성하며, 세 개의 실세계 데이터셋에서 최신 기술들을 능가한다.

ABSTRACT

Developing learning methods which do not discriminate subgroups in the population is a central goal of algorithmic fairness. One way to reach this goal is by modifying the data representation in order to meet certain fairness constraints. In this work we measure fairness according to demographic parity. This requires the probability of the possible model decisions to be independent of the sensitive information. We argue that the goal of imposing demographic parity can be substantially facilitated within a multitask learning setting. We leverage task similarities by encouraging a shared fair representation across the tasks via low rank matrix factorization. We derive learning bounds establishing that the learned representation transfers well to novel tasks both in terms of prediction performance and fairness metrics. We present experiments on three real world datasets, showing that the proposed method outperforms state-of-the-art approaches by a significant margin.

연구 동기 및 목표

• 기계 학습에서 새로운 작업에 대해 사전 학습된 모델을 미세 조정할 때 발생하는 불공정한 모델 행동 문제를 해결하기 위해.
• 새로운 작업으로의 차별적 전이 위험을 줄이기 위해 공정성이 일반화되도록 보장하기 위해.
• 다양한 작업 간에 공유 표현을 학습하면서도 인구 통계적 평등성을 강제하기 위해.
• 학습된 표현이 예측 성능과 공정성 측면에서 모두 잘 일반화됨을 이론적으로 및 실증적으로 입증하기 위해.

제안 방법

• 이 방법은 저질러진 행렬 분해를 사용하여 다수의 작업 간에 공유되는 표현을 학습함으로써, 작업 유사성과 전이 능력을 향상시킨다.
• 표현 요소 행렬에 직접적으로 공정성 제약을 적용하여 인구 통계적 평등성을 강제함으로써, 모델 결정이 민감한 특성과 독립적이게 한다.
• 이 접근법은 공정성을 다중 작업 학습 목표에 통합하여, 모델 출력을 통해 간접적으로 공정성을 강제하는 것을 피한다.
• 모델의 기능 형태에 민감한 특성이 포함되어 있거나 포함되어 있지 않은 경우를 모두 지원한다.
• 오차와 공정성 지표 측면에서 일반화 성능을 분석하기 위해 이론적 학습 경계를 유도한다.
• 민감한 특성 포함 설정이 다양한 경우에 대해 세 개의 실세계 데이터셋인 School, UNIGE, Movielens에서 평가된다.

실험 결과

연구 질문

• RQ1 저질러진 제약을 가진 다중 작업 학습을 통해 학습된 공유 표현이 새로운, 알려지지 않은 작업에 대해 공정성과 예측 성능 모두에서 잘 일반화될 수 있는가?
• RQ2 모델 출력을 통해 간접적으로 공정성을 강제하는 것과 달리, 표현 행렬에 직접적으로 공정성 제약을 가하는 것이 어떻게 다른가?
• RQ3 학습된 표현의 이론적 일반화 보장은 정확도와 공정성 측면에서 어떻게 이루어지는가?
• RQ4 제안된 방법이 실세계 데이터셋에서 공정성과 예측 성능 모두에서 최신 기술들을 능가하는가?
• RQ5 모델의 기능 형태에 민감한 특성이 존재하거나 존재하지 않을 경우, 공정한 표현의 성능에 어떤 영향을 미치는가?

주요 결과

• 민감한 특성이 모델의 기능 형태에 포함되어 있지 않은 경우, Movielens 데이터셋에서 새로운 작업에 대해 가장 낮은 공정성 위험(0.015 ± 0.003)을 기록하며, 모든 기준선을 능가한다.
• School 데이터셋에서, 새로운 작업에 대해 오차 13.65 ± 0.82와 공정성 위험 0.017 ± 0.001을 기록하며, 강력한 전이 능력을 보여준다.
• 제약 없거나 STL 기반 접근법에 비해 정확도는 유지하면서도 공정성 위험을 크게 감소시킨다(예: School에서 15.64 ± 0.79).
• 모든 설정에서 최신 기술 대비 유사하거나 더 높은 정확도를 달성하면서 동시에 더 낮은 공정성 위험을 기록한다.
• 이론적 학습 경계는 예측 오차와 공정성 모두에 대해 향상된 일반화 보장을 보여주며, 전이 능력을 평가할 수 있는 완전히 데이터 기반의 경계를 제공한다.
• 실증 결과는 공유된 공정한 표현이 새로운 작업으로 잘 일반화되며, 모든 데이터셋과 설정에서 공정성 측면에서 일관된 향상을 보임을 확인한다.