[논문 리뷰] Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

Sandra Benítez-Peña, Blas Kolic외 2명|arXiv (Cornell University)|2026. 01. 23.

Ethics and Social Impacts of AI인용 수 0

한 줄 요약

이 논문은 그룹 공정성(GF)과 개인 공정성(IF)을 함께 다루는 방법을 조사하고, 그 트레이드오프를 분석하며 하이브리드 공정성 접근법에 대한 분류체계와 비판적 평가를 제공합니다.

ABSTRACT

Algorithmic fairness has become a central concern in computational decision-making systems, where ensuring equitable outcomes is essential for both ethical and legal reasons. Two dominant notions of fairness have emerged in the literature: Group Fairness (GF), which focuses on mitigating disparities across demographic subpopulations, and Individual Fairness (IF), which emphasizes consistent treatment of similar individuals. These notions have traditionally been studied in isolation. In contrast, this survey examines methods that jointly address GF and IF, integrating both perspectives within unified frameworks and explicitly characterizing the trade-offs between them. We provide a systematic and critical review of hybrid fairness approaches, organizing existing methods according to the fairness mechanisms they employ and the algorithmic and mathematical strategies used to reconcile multiple fairness criteria. For each class of methods, we examine their theoretical foundations, optimization mechanisms, and empirical evaluation practices, and discuss their limitations. Additionally, we discuss the challenges and identify open research directions for developing principled, context-aware hybrid fairness methods. By synthesizing insights across the literature, this survey aims to serve as a comprehensive resource for researchers and practitioners seeking to design hybrid algorithms that provide reliable fairness guarantees at both the individual and group levels.

연구 동기 및 목표

• 고위험 ML 의사결정에서 GF와 IF를 모두 다루는 공정성 방법의 필요성을 촉구한다.
• 공정성 메커니즘 전반에 걸친 하이브리드 GF–IF 접근법에 대한 통합 프레임워크와 분류체계를 제공한다.
• 기존 방법의 이론적 기초, 최적화 전략, 평가 관행을 비판적으로 평가한다.
• 맥락 인식적이고 원칙에 기반한 하이브리드 공정성 방법의 한계와 열린 연구 방향을 식별한다.

제안 방법

• GF와 IF를 모두 다루는 문헌에 대한 체계적이고 비판적인 검토를 수행한다.
• 여러 기준을 조화시키는 공정성 메커니즘 및 최적화 전략으로 접근법을 분류한다.
• 문헌을 정리하기 위해 보완적인 두 개의 표(방법론적 분류체계와 실증적 구현)를 제시한다.
• GF와 IF 간의 이론적 비호환성 및 트레이드오프를 논의하며 파레토 프런트(Pareto-front) 고려를 포함한다.
• 통합 표기법을 정의하고 GF 및 IF 개념을 형식적으로 설명하여 연구 간 비교를 가능하게 한다.

Figure 1 : Trade-off between group and individual fairness. Left : observations from two groups in feature space $X$ , where edges indicate similar individuals (using $k$ -nearest neighbors) who should receive similar decisions (individual fairness). A single global threshold (gray radius) maximizes

실험 결과

연구 질문

• RQ1 단일 학습 프레임워크에서 그룹 공정성(Group Fairness)과 개인 공정성(Individual Fairness)을 명시적으로 통합하는 기존 방법은 무엇인가?
• RQ2 GF와 IF가 어떻게 상호 작용하며, 두 가지를 동시에 최적화할 때 어떤 트레이드오프가 발생하는가?
• RQ3 데이터, 표현, 모델 단계 전반에 걸친 하이브리드 GF–IF 접근법을 특징짓는 분류체계와 설계 원칙은 무엇인가?
• RQ4 원칙에 기반하고 맥락 인식적인 하이브리드 공정성 방법의 주요 한계와 열린 방향은 무엇인가?

주요 결과

• GF와 IF는 수학적으로 흔히 서로 양립하지 못하여 한 쪽을 향상시킬수록 다른 쪽이 손해를 보는 트레이드오프가 발생한다.
• 데이터 변환, 재가중화, 표현 학습, 증강 및 정규화 등 데이터 변환을 중심으로 넓은 범위의 하이브리드 접근법이 존재한다.
• 문헌은 방법론적 분류체계와 계산 및 데이터셋에 대한 실용적 평가의 이중 표 합성을 제시한다.
• 많은 연구가 그룹 수준 공정성과 개인 수준 공정의 균형을 맞추기 위해 트레이드오프나 공동 목적을 명시적으로 모델링한다.
• 리뷰는 두 수준에서의 공정성을 보장하는 맥락 인식적이고 원칙에 기반한 방법에 대한 미해결 과제와 방향을 강조한다.

(a) Excluding arXiv.