[논문 리뷰] Metric-Free Individual Fairness in Online Learning

Yahav Bechavod, Christopher Jung외 1명|arXiv (Cornell University)|2020. 02. 13.

Advanced Bandit Algorithms Research참고 문헌 20인용 수 6

한 줄 요약

이 논문은 알려진 또는 파rametric인 유사도 메트릭을 가정하지 않고 작동하는 개별 공정성에 대한 메트릭 무관 온라인 학습 프레임워크를 제안한다. 대신, 공정성 위반(불공정하게 대응된 개인 쌍)을 식별하는 감시자(auditor)를 사용하며, 유사도를 정량화하지는 않는다. 이는 최소한의 피드백 가정 하에 정확도와 공정성에 대해 하위선형의 손실과 일반화 보장을 가능하게 한다.

ABSTRACT

We study an online learning problem subject to the constraint of individual fairness, which requires that similar individuals are treated similarly. Unlike prior work on individual fairness, we do not assume the similarity measure among individuals is known, nor do we assume that such measure takes a certain parametric form. Instead, we leverage the existence of an auditor who detects fairness violations without enunciating the quantitative measure. In each round, the auditor examines the learner's decisions and attempts to identify a pair of individuals that are treated unfairly by the learner. We provide a general reduction framework that reduces online classification in our model to standard online classification, which allows us to leverage existing online learning algorithms to achieve sub-linear regret and number of fairness violations. Surprisingly, in the stochastic setting where the data are drawn independently from a distribution, we are also able to establish PAC-style fairness and accuracy generalization guarantees (Rothblum and Yona [2018]), despite only having access to a very restricted form of fairness feedback. Our fairness generalization bound qualitatively matches the uniform convergence bound of Rothblum and Yona [2018], while also providing a meaningful accuracy generalization guarantee. Our results resolve an open question by Gillen et al. [2018] by showing that online learning under an unknown individual fairness constraint is possible even without assuming a strong parametric form of the underlying similarity measure.

연구 동기 및 목표

• 알려진 또는 파arametric인 유사도 메트릭이 필요하지 않은 온라인 학습에서의 개별 공정성 문제를 다루기.
• 사람으로부터 정량적 유사도 측정을 확보하는 데 있어 실용적 장벽을 극복하기 위해, 공정성 위반의 탐지라는 더 약한 형태의 피드백에 의존하기.
• 제한된 피드백 조건 하에서도 스트로스틱 설정에서 정확도와 공정성에 대한 일반화 보장을 확립하기.
• Gillen 등(2018)이 제기한 열린 질문을 해결하기: 알려지지 않은 개별 공정성 제약 조건 하에서 강력한 메트릭 가정 없이 온라인 학습이 가능한가?

제안 방법

• 라그랑주 형식을 사용하여 온라인 공정 분류 문제를 표준 온라인 분류 문제로 변환하는 감소 프레임워크 도입.
• 각 라운드에서, 감시자는 유사도의 정도를 특정하지 않고 단 한 쌍의 불공정하게 대응된 개인을 식별한다.
• 감소된 문제에 대해 지수 가중치와 퍼티urbed 리더 따라하기(FTPL) 알고리즘을 적용하여 손실 한계를 확보한다.
• 감시자의 피드백을 활용하여 공정성 편차를 통제하는 방식으로, 균일 수렴 스타일 분석을 통해 일반화 한계를 유도한다.
• 정확도와 공정성 목표를 라그랑주 이중 형식을 통해 분리하는 새로운 손실 분해 기법 도입.
• 라운드 수 T와 문제의 복잡도에 따라 스케일링되는 공정성 위반 수준(λ)과 정확도 오차 항의 한계 설정

실험 결과

연구 질문

• RQ1 알려진 또는 파arametric인 유사도 메트릭을 가정하지 않고도 온라인 학습에서 개별 공정성을 달성할 수 있는가?
• RQ2 감시자로부터 공정성 위반 탐지 피드백만을 사용하여 정확도와 공정성에 대해 하위선형 손실과 일반화 성능을 달성할 수 있는가?
• RQ3 완전한 메트릭 정보 없이도, 정확도와 공정성 일반화 속도는 균일 수렴 한계와 어떻게 비교되는가?
• RQ4 단일 불공정 쌍을 라운드당 한 번씩 식별할 수 있는 최소한의 피드백 조건 하에서도 이 프레임워크는 스트로스틱 설정으로 일반화 가능한가?
• RQ5 기본 유사도 측정에 대한 가정을 제거할 경우, 손실 속도와 공정성 보장 간의 트레이드오프는 어떻게 되는가?

주요 결과

• 제안된 프레임워크는 알려진 또는 파arametric인 유사도 메트릭을 가정하지 않고도 정확도와 공정성 위반에 대해 하위선형 손실을 달성한다.
• 지수 가중치의 경우, 평균 정책 π^avg는 정확도 오차 O(T^(-1/4) / αk · √(ln(|F|/δ)))와 공정성 위반 수준 λ = O((k/α)^(1/2) · (ln(|F|/δ))^(1/4) · T^(-1/8))를 달성한다.
• 퍼티urbed 리더 따라하기(FTPL)의 경우, 정확도 오차는 O(n^(3/4) · ln(|F|)^(1/2) · T^(-4/9) / (αk) + √(ln(Tk/δ)/T) + T^(-2/9))이며, 공정성 위반 수준 λ = O(k^(1/2) · n^(3/8) · ln(|F|Tk/δ)^(1/4) · T^(-1/9))이다.
• 공정성 일반화 한계는 제한된 형태의 피드백을 받음에도 불구하고, Rothblum과 Yona(2018)의 균일 수렴 한계와 정성적으로 일치한다.
• Gillen 등(2018)이 제기한 열린 질문을 해결하여, 알려지지 않은 개별 공정성 제약 조건 하에서 강력한 파arametric 가정 없이도 온라인 학습이 가능함을 보여준다.
• 감시자가 시간 간격당 단 한 쌍의 공정성 위반만 보고하더라도, 정량적 유사도 측정이 필요 없이도 비트리비얼한 일반화 보장을 달성한다.