[論文レビュー] Fairness in Recommender Systems: Research Landscape and Future Directions

Yashar Deldjoo, Dietmar Jannach+3 more|arXiv (Cornell University)|May 23, 2022

Ethics and Social Impacts of AISocial Sciences被引用数 18

ひとこと要約

このサーベイは、レコメンデーションシステムにおける公平性に関する160篇以上の学術的論文を統合し、主要な公平性の定義、手法、アルゴリズム的アプローチを特定している。研究では、現在の研究がしばしば規範的根拠を欠き、ステークホルダー中心の公平性ではなく抽象的な指標に依存していることが明らかになり、現実の公平性課題に対処するための学際的研究の必要性が提起されている。

ABSTRACT

Recommender systems can strongly influence which information we see online, e.g., on social media, and thus impact our beliefs, decisions, and actions. At the same time, these systems can create substantial business value for different stakeholders. Given the growing potential impact of such AI-based systems on individuals, organizations, and society, questions of fairness have gained increased attention in recent years. However, research on fairness in recommender systems is still a developing area. In this survey, we first review the fundamental concepts and notions of fairness that were put forward in the area in the recent past. Afterward, through a review of more than 160 scholarly publications, we present an overview of how research in this field is currently operationalized, e.g., in terms of general research methodology, fairness measures, and algorithmic approaches. Overall, our analysis of recent works points to certain research gaps. In particular, we find that in many research works in computer science, very abstract problem operationalizations are prevalent and questions of the underlying normative claims and what represents a fair recommendation in the context of a given application are often not discussed in depth. These observations call for more interdisciplinary research to address fairness in recommendation in a more comprehensive and impactful manner.

研究の動機と目的

• 160篇以上の学術的論文に基づき、レコメンデーションシステムにおける公平性の現在の研究状況をマップすること。
• 公平性が研究手法、公平性指標、アルゴリズム設計の観点からどのように具体化されているかを分析すること。
• 特に規範的根拠の欠如とステークホルダー中心の公平性定義の欠如という点で、公平性に配慮した推薦分野における主要な研究ギャップを特定すること。
• アルゴリズム的公平性指標とレコメンデーションシステムの現実の倫理的影響との間の乖離を浮き彫りにすること。
• より包括的かつ実効性のある方法で公平性を扱うために、社会科学生などとの学際的連携を推進することを提唱すること。

提案手法

• コンピュータサイエンス分野における、レコメンデーションシステムにおける公平性に焦点を当てた160篇以上の最近の論文の体系的レビューと分類。
• 性的別、処遇の平等、露出の公平性などの次元に分類された公平性定義の分類。
• 実世界のデータ、合成データ、ログ記録されたインタラクションを用いたA/Bテストを含む、研究手法の分析。
• 公平性に配慮した最適化、再ランク付け、モデル学習における公平性制約を含む、アルゴリズム的アプローチの評価。
• 介入シナリオ下での公平性を評価するために、反事後的評価手法の適用。
• ワルラス均衡のようなゲーム理論的概念を用いて、相互的レコメンデーションシステムにおける公平性をモデル化。

実験結果

リサーチクエスチョン

• RQ1 現在のレコメンデーションシステム研究において、主流な公平性の定義と次元は何か？
• RQ2 異なる応用分野において、公平性の問題が研究手法、指標、アルゴリズム設計の観点からどのように具体化されているか？
• RQ3 公平性に配慮した推薦分野における主な研究ギャップ、特に規範的基盤とステークホルダーの認識に関するものは何か？
• RQ4 現在の公平性指標は、レコメンデーションの現実の倫理的・社会的影響とどの程度整合しているか？
• RQ5 社会科学生などとの学際的連携は、レコメンデーションシステムにおける公平性の向上にどのような役割を果たせるか？

主な発見

• レコメンデーションシステムにおける公平性研究の大多数は、規範的または倫理的考慮に基づいた十分な根拠のない、抽象的で計算的に定義された公平性指標に依存している。
• 多くの研究で、応用分野の選定にデータの入手可能性に強く依存しており、結果として恣意的または人工的な公平性課題が生じている。
• 現在のコンピュータサイエンスの文献では、社会学、心理学、倫理学の既存理論とレコメンデーションの公平性との間のつながりがほとんど欠落している。
• 現在のアプローチはしばしば公平性をアルゴリズム的最適化問題として扱っており、現実の文脈における人間的および社会的側面を無視している。
• 技術的・アクセス上の障壁のため、実プラットフォームにおける公平性監査は依然として極めて困難であり、Facebook NewsFeedが監査者にアクセス不能であるという事例がそれを裏付けている。
• ソーシャルネットワークやマッチングプラットフォームのような相互的レコメンデーションシステムは、供給と需要と相互の好みのバランスをとる必要があるため、ユニークな公平性課題を呈しており、これについてはまだ十分に調査がなされていない。