[논문 리뷰] Fairness in Recommender Systems: Research Landscape and Future Directions

Yashar Deldjoo, Dietmar Jannach외 3명|arXiv (Cornell University)|2022. 05. 23.

Ethics and Social Impacts of AISocial Sciences인용 수 18

한 줄 요약

이 종합 검토는 추천 시스템의 공정성에 관한 160편 이상의 학술 자료를 종합하여 핵심 공정성 정의, 방법론 및 알고리즘 접근 방식을 규명한다. 연구는 현재의 연구가 종종 노멀러티 기반 없이 추상적인 지표에 의존하며, 이해관계자 중심의 공정성보다는, 실제 세계의 공정성 도전 과제를 해결하기 위해 다학제적 연구가 필요하다고 지적한다.

ABSTRACT

Recommender systems can strongly influence which information we see online, e.g., on social media, and thus impact our beliefs, decisions, and actions. At the same time, these systems can create substantial business value for different stakeholders. Given the growing potential impact of such AI-based systems on individuals, organizations, and society, questions of fairness have gained increased attention in recent years. However, research on fairness in recommender systems is still a developing area. In this survey, we first review the fundamental concepts and notions of fairness that were put forward in the area in the recent past. Afterward, through a review of more than 160 scholarly publications, we present an overview of how research in this field is currently operationalized, e.g., in terms of general research methodology, fairness measures, and algorithmic approaches. Overall, our analysis of recent works points to certain research gaps. In particular, we find that in many research works in computer science, very abstract problem operationalizations are prevalent and questions of the underlying normative claims and what represents a fair recommendation in the context of a given application are often not discussed in depth. These observations call for more interdisciplinary research to address fairness in recommendation in a more comprehensive and impactful manner.

연구 동기 및 목표

• 160편 이상의 학술 논문을 바탕으로 추천 시스템의 공정성 연구 현황을 맵핑하기.
• 연구 방법론, 공정성 측정 지표 및 알고리즘 설계 측면에서 공정성이 어떻게 구현되고 있는지 분석하기.
• 특히 노멀러티 기반 부족과 이해관계자 중심의 공정성 정의 부족을 포함한 핵심 연구 격차 규명하기.
• 알고리즘 기반 공정성 지표와 추천 시스템의 실제 윤리적 영향 사이의 괴리점 드러내기.
• 더 포괄적이고 영향력 있는 방식으로 공정성을 다루기 위해 사회과학을 통합한 다학제적 연구를 주장하기.

제안 방법

• 컴퓨터 과학 분야에서 추천 시스템의 공정성에 중점을 둔 160편 이상의 최근 논문에 대한 체계적 리뷰 및 분류.
• 인구통계적 평등, 대응 동등성, 노출 공정성 등의 차원으로 공정성 정의 분류.
• 실제 데이터, 합성 데이터, 기록된 상호작용을 활용한 A/B 테스트를 포함한 연구 방법론 분석.
• 공정성 인식 최적화, 재정렬, 모델 훈련 시 공정성 제약 조건을 포함한 알고리즘 접근 방식 평가.
• 개입 시나리오 하에서 공정성을 평가하기 위해 반사적 평가 기법 적용.
• 와르라시안 균형과 같은 게임 이론 개념을 활용해 상호작용 기반 추천 시스템의 공정성 모델링.

실험 결과

연구 질문

• RQ1 현재 추천 시스템 연구에서 주로 사용되는 공정성 정의 및 차원은 무엇인가?
• RQ2 다양한 응용 분야에서 연구 방법론, 지표 및 알고리즘 설계 측면에서 공정성 문제가 어떻게 구현되고 있는가?
• RQ3 공정성 인식 추천 분야의 핵심 연구 격차는 무엇인가? 특히 노멀러티 기반과 이해관계자 인식 측면에서의 격차를 포함하여.
• RQ4 현재의 공정성 지표는 추천의 실제 윤리적 및 사회적 영향과 얼마나 일치하는가?
• RQ5 사회과학과의 협업을 포함한 다학제적 협력이 추천 시스템의 공정성 향상에 어떤 역할을 할 수 있는가?

주요 결과

• 추천 시스템의 대부분의 공정성 연구는 윤리적 고려 사항에 충분한 기반 없이 추상적이고 계산적으로 정의된 공정성 지표에 의존한다.
• 응용 분야 선정에 데이터 가용성에 대한 강한 의존도가 있어, 많은 연구에서 임의적이거나 인위적인 공정성 도전 과제가 발생한다.
• 현재 컴퓨터 과학 문헌에서 사회과학, 심리학 및 윤리학의 기존 이론과 추천 시스템의 공정성 간의 연결은 거의 존재하지 않는다.
• 현재 접근 방식은 종종 공정성을 알고리즘 최적화 문제로 간주하여 실제 상황에서의 인간적 요소와 사회적 차원을 간과한다.
• 기술적 장벽과 접근 제한으로 인해 실제 플랫폼에서의 공정성 감사가 여전히 매우 어렵다. 예를 들어 페이스북 뉴스피드는 감사자에게 접근이 불가능한 것으로 알려져 있다.
• 소셜 네트워크나 매칭 플랫폼과 같은 상호작용 기반 추천 시스템은 공급, 수요 및 상호 선호도를 균형 있게 맞추어야 하므로 고유한 공정성 도전 과제를 안고 있으며, 이는 아직 충분히 연구되지 않은 분야이다.