[논문 리뷰] Envy-Free Classification

Maria-Florina Balcan, Travis Dick외 2명|arXiv (Cornell University)|2019. 01. 01.

Game Theory and Voting Systems인용 수 8

한 줄 요약

이 논문은 기계학습에서 선호도 기반의 정의 없는 분류를 정의하는 공정성 기준을 제안하며, 개인들이 자신의 분류 결과를 다른 사람의 결과보다 선호하는 경우를 의미한다. 결정론적 분류기의 혼합을 사용할 경우, 낮은 Natarajan 차원을 가진 가족에서 유래한 분류기의 경우 소량의 표본만으로도 일반화 가능성 보장을 확보할 수 있음을 증명하여, 이질적인 선호도를 가진 환경에서 공정하고 일반화 가능한 분류에 대한 이론적 보장을 수립한다.

ABSTRACT

In classic fair division problems such as cake cutting and rent division, envy-freeness requires that each individual (weakly) prefer his allocation to anyone else's. On a conceptual level, we argue that envy-freeness also provides a compelling notion of fairness for classification tasks, especially when individuals have heterogeneous preferences. Our technical focus is the generalizability of envy-free classification, i.e., understanding whether a classifier that is envy free on a sample would be almost envy free with respect to the underlying distribution with high probability. Our main result establishes that a small sample is sufficient to achieve such guarantees, when the classifier in question is a mixture of deterministic classifiers that belong to a family of low Natarajan dimension.

연구 동기 및 목표

• 이성적 선호가 존재하는 분류 작업에서 정의 없는 분류를 의미 있는 공정성 기준으로 정립하기 위해.
• 유한한 표본에서 정의 없는 분류를 만족하는 분류기가 실질적으로 전체 데이터 분포에 대해 근사적으로 정의 없는 분류를 만족하는지 조사하기 위해.
• 분류기 가족의 경미한 복잡도 가정 하에 정의 없는 분류의 일반화 가능성에 대한 이론적 보장을 제공하기 위해.
• 낮은 Natarajan 차원을 가진 분류기의 혼합을 사용할 경우, 소량의 표본으로도 높은 확률로 전체 분포로의 일반화가 가능함을 보여주기 위해.

제안 방법

• 각 개인이 자신만의 결과를 다른 개인의 결과보다 약하게 선호하는 방식으로 분류에서 정의 없는 분류를 수식화한다.
• 낮은 Natarajan 차원을 가진 가족에서 유래한 결정론적 분류기의 혼합으로 분류기를 모델링하여 복잡도 제어를 가능하게 한다.
• 표본 기반의 경험적 정의 없는 분류를 인구 수준의 공정성에 대한 대체 측정기로 사용하며, 일반화 갭을 분석한다.
• 통계학적 학습 이론의 도구를 적용하여, 표본 기반 정의 없는 분류를 만족하는 분류기가 전체 분포에서 근사적으로 정의 없는 분류를 만족하지 못할 확률를 제한한다.
• 낮은 Natarajan 차원을 활용하여 가설 클래스의 복잡도를 제어하여 소량의 표본으로도 일반화가 가능하도록 보장한다.
• 높은 확률로 근사 정의 없는 분류를 보장하는 일반화 경계를 유도한다.

실험 결과

연구 질문

• RQ1 개인의 선호가 이질적인 분류 작업에서 정의 없는 분류가 실용적인 공정성 기준이 될 수 있는가?
• RQ2 유한한 표본에서 경험적으로 정의 없는 분류가 전체 데이터 분포로 일반화되는 정도는 어떠한가?
• RQ3 소량의 표본으로 정의 없는 분류의 일반화 가능성을 보장하기 위해 분류기 가족에 대해 필요한 복잡도 가정은 무엇인가?
• RQ4 분류기 가족의 Natarajan 차원은 일반화 가능한 정의 없는 분류를 달성하기 위한 표본 복잡도에 어떤 영향을 미치는가?

주요 결과

• 유한한 표본에서 정의 없는 분류를 만족하는 분류기는 높은 확률로 전체 분포에 대해 근사적으로 정의 없는 분류를 만족한다.
• 일반화를 위한 필요 표본 크기는 개인 수가 아니라 분류기 가족의 Natarajan 차원에 따라 결정된다.
• 낮은 Natarajan 차원은 가설 클래스가 충분히 단순하여 소량의 표본으로부터 일반화가 가능함을 보장한다.
• 경미한 가정 하에 분류기 가족의 특성에 기반한 일반화 경계가 도출되었으며, 이는 높은 확률로 근사 정의 없는 분류를 보장한다.
• 낮은 복잡도의 가족에서 유래한 결정론적 분류기의 혼합을 사용할 경우, 소량의 표본으로도 정의 없는 분류를 달성할 수 있음을 보여준다.
• 이론적 프레임워크는 경험적으로 정의 없는 분류를 만족하면서도 미리 보지 않은 데이터로도 일반화 가능한 공정한 분류기 설계에 기초를 마련한다.