[論文レビュー] Fairness in Recommendation: Foundations, Methods and Applications

Yunqi Li, Hanxiong Chen+5 more|arXiv (Cornell University)|May 26, 2022

Explainable Artificial Intelligence (XAI)被引用数 18

ひとこと要約

本サーベイは、推薦システムにおける公平性について、包括的で体系的な概要を提供しており、機械学習分野の基盤的コンセプトを統合し、公平性定義を分類し、主要な技術をレビューし、データセットをキュレートしている。本研究は、データスパarsity、マルチステークホルダー公平性、プライバシーと効用のトレードオフといったコアな課題を特定するとともに、公平な推薦研究を前進させるために統一された評価プロトコルおよびシミュレーション環境の構築を提唱している。

ABSTRACT

As one of the most pervasive applications of machine learning, recommender systems are playing an important role on assisting human decision making. The satisfaction of users and the interests of platforms are closely related to the quality of the generated recommendation results. However, as a highly data-driven system, recommender system could be affected by data or algorithmic bias and thus generate unfair results, which could weaken the reliance of the systems. As a result, it is crucial to address the potential unfairness problems in recommendation settings. Recently, there has been growing attention on fairness considerations in recommender systems with more and more literature on approaches to promote fairness in recommendation. However, the studies are rather fragmented and lack a systematic organization, thus making it difficult to penetrate for new researchers to the domain. This motivates us to provide a systematic survey of existing works on fairness in recommendation. This survey focuses on the foundations for fairness in recommendation literature. It first presents a brief introduction about fairness in basic machine learning tasks such as classification and ranking in order to provide a general overview of fairness research, as well as introduce the more complex situations and challenges that need to be considered when studying fairness in recommender systems. After that, the survey will introduce fairness in recommendation with a focus on the taxonomies of current fairness definitions, the typical techniques for improving fairness, as well as the datasets for fairness studies in recommendation. The survey also talks about the challenges and opportunities in fairness research with the hope of promoting the fair recommendation research area and beyond.

研究の動機と目的

• 推薦システムにおける公平性研究の断片的な状態を是正するために、統一的かつ体系的な概要を提供すること。
• 分類とランク付けにおける公平性の理解の基盤を提供するため、機械学習における公平性に関する基礎的知識を確立すること。
• 推薦システムにおける既存の公平性定義を体系的な分類に整理し、より明確な概念的理解を促進すること。
• アルゴリズム的およびデータレベルの両方のアプローチを含む、推薦における公平性を向上させる最先端の技術をレビューおよび分類すること。
• プライバシー保護に配慮したデータ収集、多様なベンチマークデータセットの不足、統一された評価フレームワークの必要性といった、重要な未解決課題を特定し、今後の研究方向性を提案すること。

提案手法

• 100件を超える推薦における公平性に関する研究をサーベイ・統合し、分野の構造的概要を確立すること。
• ユーザー単位、アイテム単位、グループ単位の公平性懸念を区別する、推薦システムにおける公平性定義の分類を導入すること。
• 前処理（例：データ再重み付け）、インプロセッシング（例：敵対的訓練、公平性正則化項）、後処理（例：再ランク付け）の3つの主なクラスに分類して、公平性技術を整理すること。
• 性別、人種、収入などの感受性属性を含む、公開可能なデータセットをキュレートし、今後の公平性研究を支援すること。
• RecSimにインspiredされたシミュレーション環境の開発を提言し、推薦システムにおける動的かつ長期的な公平性効果の評価を可能にすること。
• フェデレーテッドラーニングや微分プライバシーなどのプライバシー保護型データキュレーショングの手法を推奨し、ユーザーのプライバシーを損なわず公平な学習を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 推薦システムにおける核心的な公平性定義と分類は何か。また、分類やランク付けにおける公平性とはどのように異なるか。
• RQ2 推薦における公平性を達成するための主な技術的アプローチ（前処理、インプロセッシング、後処理）は何か。また、それらの有効性はどのように比較できるか。
• RQ3 特にプライバシーやデータ可用性の観点から、感受性のあるユーザー属性やアイテム属性を収集・利用する際の主な課題は何か。
• RQ4 複数の公平性基準を同時に評価できる統一された評価プロトコルをどのように開発できるか。
• RQ5 シミュレーションプラットフォームは、推薦システムにおける長期的かつ動的公平性の評価にどのような役割を果たせるか。

主な発見

• 複数のステークホルダー、動的環境、データスパarsityの影響により、推薦システムにおける公平性は、標準的な機械学習タスクよりも本質的に複雑である。
• 現在の推薦における公平性定義は、ユーザー、アイテム、グループの公平性をカバーしており、定式化や評価方法に顕著なばらつきがあるため、異なる手法間の比較が困難である。
• 感受性属性を含む十分な公開データセットが不足しており、公平性研究の再現性とスケーラビリティが制限されている。
• プライバシー保護と公平性の促進の間に、深刻なトレードオフが存在する。感受性のあるユーザーデータはしばしば必要であるが、同時に悪用のリスクも高い。
• 公平性、正確性、説明可能性、耐障害性、プライバシーを同時に測定できる統一された評価フレームワークがまだ存在せず、これは主要な研究ギャップである。
• RecSimのようなシミュレーションプラットフォームは、動的公平性評価に有望である。今後の研究では、こうしたフレームワークを公平性固有のベンチマークに適合させるべきである。