[논문 리뷰] Learning Certified Individually Fair Representations

Anian Ruoss, Mislav Balunović외 2명|arXiv (Cornell University)|2020. 02. 24.

Ethics and Social Impacts of AI참고 문헌 56인용 수 27

한 줄 요약

이 논문은 $\varepsilon$-강건성 보장과 잠재 공간 내 거리 기반 유사성 기반으로 개별적 공정성을 학습하고 검증하는 데 있어 최초의 방법인 LCIFR를 제안한다. 유사한 개인 간의 $\ell_\infty$-거리 $\epsilon$ 내에 포지셔닝하도록 인코더를 훈련하고, 볼록 근사화를 통한 모듈러 검증을 가능하게 함으로써, 다섯 개인 실세계 데이터셋에서 미리 보지 않은 데이터 포인트에 대해 최대 72.6% 높은 검증된 공정성을 달성한다.

ABSTRACT

Fair representation learning provides an effective way of enforcing fairness constraints without compromising utility for downstream users. A desirable family of such fairness constraints, each requiring similar treatment for similar individuals, is known as individual fairness. In this work, we introduce the first method that enables data consumers to obtain certificates of individual fairness for existing and new data points. The key idea is to map similar individuals to close latent representations and leverage this latent proximity to certify individual fairness. That is, our method enables the data producer to learn and certify a representation where for a data point all similar individuals are at $\ell_\infty$-distance at most $ε$, thus allowing data consumers to certify individual fairness by proving $ε$-robustness of their classifier. Our experimental evaluation on five real-world datasets and several fairness constraints demonstrates the expressivity and scalability of our approach.

연구 동기 및 목표

• 데이터 생산자와 소비자 간 신뢰가 없이도 유티리티를 훼손하지 않고 기계 학습에서 개인적 공정성을 강제하고 검증하는 데 도전한다.
• 원래의 공정성 제약 조건이나 훈련 데이터에 접근할 수 없더라도 데이터 소비자가 기존 및 신규 데이터 포인트에 대해 개인적 공정성을 검증할 수 있도록 한다.
• 이식 학습과 다중 공정성 제약 조건을 지원하는 실용적이고 확장 가능하며 모듈러한 개별적 공정 표현 학습 프레임워크를 제공한다.
• 데이터 생산자가 논리적이고 해석 가능한 유사성 제약 조건을 사용하여 개인적 공정성의 증명 가능한 증거를 생성할 수 있도록 하는 방법을 개발한다.
• 기존의 표현 학습 파ip라인과 호환되면서도 계산 효율성과 높은 검증률을 유지한다.

제안 방법

• 두 개인이 유사하다고 간주되는지 여부를 결정하는 기능적인, 해석 가능한 논리 제약 조건 $\phi(x, x')$를 통해 개인적 공정성을 정의한다.
• 유사한 개인($\phi(x, x') = 1$)을 $\ell_\infty$-거리 $\epsilon$ 이내의 잠재 표현으로 매핑하도록 인코더 $f_\theta$를 훈련한다.
• 주어진 입력 $x$와 유사한 모든 개인의 집합에 대한 볼록 근사화를 구성하며, 이는 데이터 생산자가 데이터 소비자에게 전달한다.
• 데이터 소비자가 유사한 개인의 볼록 근사화 내에서 분류기 $h_\psi$의 $\varepsilon$-강건성을 증명함으로써 개인적 공정성을 검증할 수 있도록 한다.
• 다양이 가능한 논리와 검증된 강건성 기법을 활용하여 인코더를 훈련하면서도 $\ell_\infty$-거리 제약 조건을 충족함을 보장한다.
• 이식 학습을 지원하기 위해 복구 손실 $\mathcal{L}_R$을 통합하여 잠재 표현이 후속 응용 프로그램을 위한 작업 특화 정보를 유지할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 모듈러적이고 조합 가능한 프레임워크를 사용하여, 모든 유사한 개인에 대해 개별적 공정성을 보장하는 표현을 학습할 수 있는가?
• RQ2 원래의 공정성 제약 조건이나 훈련 데이터에 접근할 수 없더라도 데이터 소비자가 개별적 공정성을 어떻게 검증할 수 있는가?
• RQ3 본 방법의 확장성과 실용적 성능은 다양한 데이터셋과 공정성 제약 조건에서 어떻게 나타나는가?
• RQ4 본 방법이 공정성 보장을 유지하면서 이식 학습을 얼마나 잘 지원하는가?
• RQ5 본 방법은 표준 표현 학습 대비 미리 보지 않은 데이터 포인트에 대해 검증된 공정성 측면에서 어떻게 비교되는가?

주요 결과

• 본 방법은 다섯 개인 실세계 데이터셋에서 표준 표현 학습 대비 미리 보지 않은 데이터 포인트에 대해 최대 72.6% 높은 검증된 공정성 비율을 달성한다.
• 입력당 평균 검증 런타임은 Law School의 0.02초에서 Crime의 1.23초 사이로 다양하여 계산 효율성과 확장성을 입증한다.
• Health 데이터셋에서 본 방법은 respr4 레이블 예측에 대해 98.4%의 검증된 정확도를 달성하여 이식 학습 환경에서 뛰어난 성능을 보였다.
• 프레임워크는 이식 학습을 효과적으로 지원한다: 잠재 표현에서 훈련된 분류기는 여러 후속 작업에서 높은 정확도(72.4–75.4%)와 높은 검증률(86.1–98.4%)을 달성한다.
• 본 방법은 높은 유티리티를 유지하면서도 증명 가능한 공정성을 제공하며, Health 데이터셋의 여섯 개의 이식 작업 중 네 개에서 검증된 정확도가 90%를 초과한다.
• 본 방법은 다양한 공정성 제약 조건과 아키텍처와 호환되며, Adult, Compas, Crime, German, Health, Law School 등의 데이터셋에서 검증되었다.