[논문 리뷰] Fairness in Recommendation: Foundations, Methods and Applications

Yunqi Li, Hanxiong Chen외 5명|arXiv (Cornell University)|2022. 05. 26.

Explainable Artificial Intelligence (XAI)인용 수 18

한 줄 요약

이 종합 검토는 추천 시스템에서의 공정성에 대해 체계적이고 종합적인 개요를 제공하며, 기계학습 분야의 기초 개념을 통합하고, 공정성 정의를 분류하며, 핵심 기법들을 검토하고, 데이터셋을 정리한다. 데이터 희소성, 다수 이해관계자에 대한 공정성, 프라이버시-유용성 트레이드오프와 같은 핵심 과제를 밝히며, 공정한 추천 연구를 발전시키기 위해 통합된 평가 프로토콜과 시뮬레이션 환경의 구축을 주장한다.

ABSTRACT

As one of the most pervasive applications of machine learning, recommender systems are playing an important role on assisting human decision making. The satisfaction of users and the interests of platforms are closely related to the quality of the generated recommendation results. However, as a highly data-driven system, recommender system could be affected by data or algorithmic bias and thus generate unfair results, which could weaken the reliance of the systems. As a result, it is crucial to address the potential unfairness problems in recommendation settings. Recently, there has been growing attention on fairness considerations in recommender systems with more and more literature on approaches to promote fairness in recommendation. However, the studies are rather fragmented and lack a systematic organization, thus making it difficult to penetrate for new researchers to the domain. This motivates us to provide a systematic survey of existing works on fairness in recommendation. This survey focuses on the foundations for fairness in recommendation literature. It first presents a brief introduction about fairness in basic machine learning tasks such as classification and ranking in order to provide a general overview of fairness research, as well as introduce the more complex situations and challenges that need to be considered when studying fairness in recommender systems. After that, the survey will introduce fairness in recommendation with a focus on the taxonomies of current fairness definitions, the typical techniques for improving fairness, as well as the datasets for fairness studies in recommendation. The survey also talks about the challenges and opportunities in fairness research with the hope of promoting the fair recommendation research area and beyond.

연구 동기 및 목표

• 공정성 연구가 분산되어 있는 상태를 해결하기 위해 통합적이고 체계적인 개요를 제공함으로써.
• 추천 시스템에서의 공정성 이해를 위한 기초 지식을 확립하기 위해, 특히 분류 및 랭킹에서의 기계학습 공정성에 초점을 맞춤.
• 기존 추천 시스템에서의 공정성 정의를 체계적인 분류 체계로 정리하여 개념적 이해를 명확히 함.
• 알고리즘적 및 데이터 수준의 접근 방식을 포함한 공정성 향상 기법들을 검토하고 분류함.
• 프라이버시 보호 데이터 수집, 다양한 벤치마크 데이터셋 부족, 통합 평가 프레임워크 필요성과 같은 핵심 열린 과제를 밝히며, 향후 연구 방향을 제안함.

제안 방법

• 100개 이상의 공정성 관련 연구를 종합하여 분야의 체계적인 개요를 수립함.
• 사용자 수준, 아이템 수준, 그룹 수준의 공정성에 중점을 둔 추천 시스템에서의 공정성 정의에 대한 분류 체계를 도입함.
• 전처리(예: 데이터 재가중), 내처리(예: 적대적 훈련, 공정성 정규화), 후처리(예: 재랭킹)의 세 가지 주요 유형으로 공정성 기법을 분류함.
• 민감한 속성(예: 성별, 인종, 소득)을 포함한 공개 가능한 데이터셋을 정리하고 제시함으로써 향후 공정성 연구를 지원함.
• RecSim과 유사한 시뮬레이션 환경의 개발을 제안하여 추천 시스템의 동적 및 장기적 공정성 영향을 평가함.
• 연합 학습과 차별적 프라이버시를 포함한 프라이버시 보호 데이터 정제 방법을 주장하여 사용자 프라이버시를 해치지 않으면서도 공정한 학습을 가능하게 함.

실험 결과

연구 질문

• RQ1 추천 시스템에서 사용되는 핵심 공정성 정의와 분류 체계는 무엇이며, 분류 및 랭킹에서의 공정성과는 어떻게 다를까?
• RQ2 공정성 달성을 위한 주요 기술적 접근 방식(전처리, 내처리, 후처리)은 무엇이며, 효과성 측면에서 어떻게 비교될 수 있을까?
• RQ3 민감한 사용자 및 아이템 속성을 수집하고 사용하는 데 있어 주요 과제는 무엇인가요? 특히 프라이버시와 데이터 가용성 측면에서 말이다.
• RQ4 여러 공정성 기준을 동시에 고려하여 다양한 공정성 기법을 공정하게 비교할 수 있는 통합 평가 프로토콜은 어떻게 개발될 수 있을까?
• RQ5 시뮬레이션 플랫폼은 추천 시스템에서 장기적이고 동적 공정성을 평가하는 데 어떤 역할을 할 수 있을까?

주요 결과

• 다양한 이해관계자, 동적 환경, 데이터 희소성로 인해 추천 시스템에서의 공정성은 표준 기계학습 작업보다 본질적으로 더 복잡하다.
• 기존 추천 시스템에서의 공정성 정의는 사용자, 아이템, 그룹 수준의 공정성을 포함하며, 수식 및 평가 방식에서 상당한 차이를 보여, 다양한 방법 간 비교가 어렵다.
• 민감한 속성을 포함한 충분한 공개 가능한 데이터셋이 부족하여 공정성 연구의 재현 가능성과 확장성에 제약이 있다.
• 프라이버시 보호와 공정성 증진 사이에 극명한 갈등이 존재한다. 민감한 사용자 데이터는 종종 필요하지만, 동시에 오용에 매우 취약하다.
• 공정성, 정확도, 설명 가능성, 강건성, 프라이버시를 동시에 측정할 수 있는 통합 평가 프레임워크가 아직 존재하지 않으며, 이는 핵심 연구 격차로 남아 있다.
• RecSim과 같은 시뮬레이션 플랫폼은 동적 공정성 평가에 유망하며, 향후 연구는 이러한 프레임워크를 공정성 전용 벤치마크 지원을 위해 확장해야 한다.