[논문 리뷰] On preserving non-discrimination when combining expert advice

Avrim Blum, Suriya Gunasekar외 2명|arXiv (Cornell University)|2018. 10. 28.

Ethics and Social Impacts of AI참고 문헌 37인용 수 5

한 줄 요약

이 논문은 온라인 학습 환경에서 개별적으로 비차별적인 예측기들을 조합하는 방법을 조사하며, 공정성을 해치지 않도록 하는 바탕을 마련한다. 등가된 오차율은 그룹별로 별도의 곱셈 가중치를 사용함으로써 유지될 수 있지만, 등가된 오dds는 본질적으로 노레그레트 학습과 호환되지 않음을 보여준다. 놀랍게도, 적응형 환경에서 더 강력한 노레그레트 보장을 달성하면, 예측기가 개별적으로 공정하더라도 공정성이 깨질 수 있다.

ABSTRACT

We study the interplay between sequential decision making and avoiding discrimination against protected groups, when examples arrive online and do not follow distributional assumptions. We consider the most basic extension of classical online learning: "Given a class of predictors that are individually non-discriminatory with respect to a particular metric, how can we combine them to perform as well as the best predictor, while preserving non-discrimination?" Surprisingly we show that this task is unachievable for the prevalent notion of "equalized odds" that requires equal false negative rates and equal false positive rates across groups. On the positive side, for another notion of non-discrimination, "equalized error rates", we show that running separate instances of the classical multiplicative weights algorithm for each group achieves this guarantee. Interestingly, even for this notion, we show that algorithms with stronger performance guarantees than multiplicative weights cannot preserve non-discrimination.

연구 동기 및 목표

• 온라인 학습의 적응성과 보호 그룹에 대한 비차별 간의 상호작용을 연구하기 위해.
• 개별적으로 비차별적인 예측기들을 조합하는 것이 노레그레트 성능을 달성하면서도 공정성을 유지할 수 있는지 판단하기 위해.
• 비.i.i.d. 온라인 환경에서 등가된 오dds와 등가된 오차율 같은 다양한 공정성 정의의 실현 가능성을 평가하기 위해.
• 적응형 결정 부수적이고 환경이 변화하는 상황에서도 공정성을 유지할 수 있는 조건을 규명하기 위해.
• 온라인 학습 알고리즘에서 성능 보장과 공정성 간의 상호교환 관계를 탐색하기 위해.

제안 방법

• 저자들은 공정성 지표에 대해 개별적으로 비차별적인 예측기의 클래스를 갖는 온라인 학습을 분석한다.
• 등가된 오차율을 유지하기 위해, 각 그룹별로 별도의 인스턴스를 실행하는 곱셈 가중치 알고리즘을 사용한다.
• 등가된 오dds의 경우, 노레그레트 알고리즘이 항상 공정성을 위반함을 보이기 위해 적대적 예시를 구성한다. 이는 단지 두 개의 예측기와 두 개의 그룹이 있을 때조차도 성립한다.
• 변동하는 비교 기준에 대한 근사 노레그레트의 개념을 도입한다. 이는 $\operatorname{\mathbb{E}}[\text{ApxReg}_{\epsilon,T}(f^\star)] = O(\frac{K(f^\star) \cdot \ln(dT)}{\epsilon})$ 로 정의되며, 여기서 $K(f^\star)$ 는 최적 전문가 시퀀스의 전환 횟수를 세는 것이다.
• 모든 알고리즘이 $K(f^\star) = 2$ 인 경우에 대해 근사 노레그레트가 점점 줄어들게 하면, 예측기가 개별적으로 공정하더라도 등가된 오차율을 유지할 수 없다는 것을 증명한다.
• 증명은 세 단계로 구성된 적대적 인스턴스를 사용한다: A 그룹에서 균형 잃은 손실이 발생하는 1단계, B 그룹에서 연속된 전문가 전환을 포함하는 2단계와 3단계이며, 이로 인해 B 그룹의 오차율이 $\nicefrac{1}{2} - \alpha$ 이하로 떨어진다.

실험 결과

연구 질문

• RQ1 온라인 학습 환경에서 개별적으로 비차별적인 예측기들을 조합하면서도 공정성과 노레그레트 성능을 유지할 수 있는가?
• RQ2 비.i.i.d. 온라인 환경에서 등가된 오dds는 노레그레트 학습과 호환되는가?
• RQ3 등가된 오차율은 표준 온라인 학습 알고리즘(예: 곱셈 가중치)을 사용해 유지할 수 있는가?
• RQ4 강력한 성능 보장(예: 낮은 근사 노레그레트)과 공정성 간의 상호교환 관계는 무엇인가?
• RQ5 비.i.i.d. 순차적 결정 환경에서 실현 가능하고 강건한 공정성 정의는 존재하는가?

주요 결과

• 등가된 오dds(모든 그룹에서 가짜 양성과 가짜 음성 비율이 동일해야 함)를 유지하면서도 노레그레트 성능을 달성하는 것은 온라인 학습 환경에서 불가능하며, 단지 두 개의 예측기와 두 개의 그룹이 있을 때조차도 성립한다.
• 등가된 오차율의 경우, 각 그룹별로 별도의 곱셈 가중치 인스턴스를 실행함으로써 공정성을 유지하고 노레그레트 성능을 달성할 수 있다.
• 변동하는 비교 기준에 대해 근사 노레그레트가 점점 줄어들게 하는 모든 알고리즘은, 예측기가 개별적으로 공정하더라도 등가된 오차율을 유지할 수 없다.
• 한 그룹의 오차율은 임의의 $\alpha < \nicefrac{1}{2}$ 에 대해 $\nicefrac{1}{2} - \alpha$ 이하로 낮아질 수 있으며, 다른 그룹은 최소 $\nicefrac{1}{2}$ 의 오차율을 유지하게 되어 공정성을 위반한다.
• 최적 전문가 시퀀스의 전환 횟수가 최소일 때조차도 불가능성 결과가 성립함을 보여, 강력한 성능 보장은 등가된 오차율 기반 공정성과 본질적으로 충돌한다.
• 결과적으로, 강력한 노레그레트 보장을 갖는 알고리즘은 조합적 관점에서 공정성과 호환되지 않음을 시사하며, '너무 좋은' 성능이 온라인 환경에서 공정성을 해칠 수 있음을 암시한다.