[논문 리뷰] Fairness-Aware PAC Learning from Corrupted Data

Nikola Konstantinov, Christoph H. Lampert|arXiv (Cornell University)|2021. 02. 11.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 악성 데이터 오염 환경에서 정의 지향적 PAC 학습의 기본 한계를 조사하며, 무한한 데이터가 존재하더라도 악성 대상자가 훈련 데이터의 일부를 오염시킬 경우 어떤 학습 알고리즘도 정의를 보장할 수 없음을 보여준다. 연구는 정의 지표의 초과 편향이 표현이 부족한 보호 집단의 빈도에 반비례함을 증명하며, 악성 대상자 모델 하에서 두 가지 자연스러운 학습 알고리즘에 대해 순서 최적의 보장을 수립한다. 이는 이론적 경계가 상수 요인을 제외하고 엄밀함을 입증한다.

ABSTRACT

Addressing fairness concerns about machine learning models is a crucial step towards their long-term adoption in real-world automated systems. While many approaches have been developed for training fair models from data, little is known about the robustness of these methods to data corruption. In this work we consider fairness-aware learning under worst-case data manipulations. We show that an adversary can in some situations force any learner to return an overly biased classifier, regardless of the sample size and with or without degrading accuracy, and that the strength of the excess bias increases for learning problems with underrepresented protected groups in the data. We also prove that our hardness results are tight up to constant factors. To this end, we study two natural learning algorithms that optimize for both accuracy and fairness and show that these algorithms enjoy guarantees that are order-optimal in terms of the corruption ratio and the protected groups frequencies in the large data limit.

연구 동기 및 목표

• 악성 데이터 오염에 대한 정의 지향 기계학습의 강건성을 조사한다.
• 악성 대상자가 훈련 데이터를 악성으로 조작할 경우 정의 보장을 유지할 수 있는지 분석한다.
• 특히 표현이 부족한 보호 집단을 고려할 때, 오염된 데이터 존재 하에서 정의 지향 학습의 기본 한계를 규명한다.
• 정의 학습에서 초과 편향과 오염에 대한 내성 강건성에 대한 엄밀한 이론적 경계를 수립한다.
• 악성 오염 하에서 자연스러운 정의 최적화 학습 알고리즘의 성능을 평가하며, 대량 데이터 근처에서의 순서 최적성 증명한다.

제안 방법

• 악성 대상자가 학습 알고리즘과 데이터 분포를 완전히 알고 있는 상태에서 훈련 데이터의 일부를 임의의 데이터로 교체함으로써 데이터 오염을 모델링한다.
• 이중 분류에서 표준적인 두 가지 정의 제약 조건인 인구 균형과 동등 기회를 중심으로 다룬다.
• PAC 학습 이론을 활용해 악성 오염 하에서 일반화 경계를 유도하며, 정확도와 정의를 동시에 분석한다.
• 집중 불등식과 유니온 바운드를 적용하여, 오염 하에서의 경험 위험과 정의 편차에 대한 고확률 경계를 유도한다.
• 두 가지 자연스러운 학습 알고리즘에 대해 상한 경계를 구성함으로써, 경직성 결과가 상수 요인을 제외하고 엄밀함을 증명한다.
• 보호 집단의 빈도가 불가피한 정의 편향에 미치는 영향을 분석하며, 희귀 집단의 빈도와 반비례 관계를 보여준다.

실험 결과

연구 질문

• RQ1 악성 데이터 오염이 발생하는 상황에서 정의 지향 학습 알고리즘이 정의를 보장할 수 있는가?
• RQ2 악성 대상자가 훈련 데이터를 악성으로 조작할 경우, 학습에서의 정의의 기본 한계는 무엇인가?
• RQ3 표현이 부족한 보호 집단의 빈도는 오염 상황에서 정의 지표의 불가피한 편향에 어떤 영향을 미치는가?
• RQ4 대량 데이터 근처에서 오염 비율과 집단 빈도 측면에서 순서 최적 성능을 달성하는 학습 알고리즘이 존재하는가?
• RQ5 데이터 오염으로 인한 초과 편향은 경계로 제한될 수 있으며, 이러한 경계는 상수 요인을 제외하고 엄밀한가?

주요 결과

• 무한한 데이터가 존재하더라도, 악성 데이터 오염 상황에서는 정의 지향 학습 알고리즘이 정확도-정의 파레토 경계에 수렴하는 것을 보장할 수 없다.
• 정의 지표의 불가피한 초과 편향은 표현이 부족한 보호 집단의 빈도에 반비례하므로, 표현이 부족한 집단은 특히 취약하다.
• 악성 대상자는 어떤 학습자도 정확도는 유지하되 매우 편향된 분류기를 생성하도록 유도할 수 있으며, 이는 개인정보 보호 시스템에서 탐지되지 않을 수 있다.
• 경직성 결과는 두 가지 자연스러운 학습 알고리즘에 대해 상한 경계를 구성함으로써 상수 요인을 제외하고 엄밀함을 입증한다.
• 두 알고리즘 모두 대량 데이터 근처에서 순서 최적 성능을 달성하며, 오염 비율과 보호 집단 빈도에 대해 최적 스케일링 보장을 제공한다.
• 이론적 경계는 보호 집단 빈도가 낮을 경우, 최적의 학습 전략을 적용하더라도 정의 강건성이 크게 떨어짐을 보여준다.