[論文レビュー] A Fairness-aware Hybrid Recommender System

Golnoosh Farnadi, Pigi Kouki+3 more|arXiv (Cornell University)|Sep 13, 2018

Recommender Systems and Techniques参考文献 23被引用数 25

ひとこと要約

本稿では、確率的ソフト論理（PSL）を用いて、ユーザー同士およびアイテム同士の類似性、コンテンツ、および人口統計的データを統合することで、観測バイアスとデータの不均衡を軽減する、公平性に配慮したハイブリッドレコメンデーションシステムを提案する。このモデルは、最先端の公平な行列分解手法と比較して、優れた精度と公平性を達成しており、特にバランス不平等と価値不平等の低減において顕著である。公平性制約を適用しても、性能の低下はわずかにとどまる。

ABSTRACT

Recommender systems are used in variety of domains affecting people's lives. This has raised concerns about possible biases and discrimination that such systems might exacerbate. There are two primary kinds of biases inherent in recommender systems: observation bias and bias stemming from imbalanced data. Observation bias exists due to a feedback loop which causes the model to learn to only predict recommendations similar to previous ones. Imbalance in data occurs when systematic societal, historical, or other ambient bias is present in the data. In this paper, we address both biases by proposing a hybrid fairness-aware recommender system. Our model provides efficient and accurate recommendations by incorporating multiple user-user and item-item similarity measures, content, and demographic information, while addressing recommendation biases. We implement our model using a powerful and expressive probabilistic programming language called probabilistic soft logic. We experimentally evaluate our approach on a popular movie recommendation dataset, showing that our proposed model can provide more accurate and fairer recommendations, compared to a state-of-the art fair recommender system.

研究の動機と目的

• レコメンエーションシステムにおける2つの主要なバイアス要因、すなわちフィードバックループに起因する観測バイアスと、社会的または歴史的バイアスに起因するデータの不均衡を是正すること。
• 確率的ソフト論理（PSL）を用いた、統合的でスケーラブルかつ宣言的な公平性に配慮したレコメンエーションフレームワークを構築すること。
• ハイブリッドレコメンエーション環境において、性別に基づくグループなどの保護対象サブグループに対する公的な扱いを保証しながら、推薦精度を向上させること。
• 複数の公平性指標を用いた実証的評価を行い、最先端の公平な行列分解手法と比較すること。

提案手法

• 本システムは、ユーザーの属性、アイテムのコンテンツ、複数の類似性測定（ユーザー同士、アイテム同士）を統合することで、HyPERハイブリッドレコメンデーションフレームワークを拡張する。
• 複雑な関係的依存関係とユーザー・アイテム相互作用における不確実性をモデル化するために、確率的ソフト論理（PSL）—確率的プログラミング言語—を用いる。
• 公平性は、最大事後確率（MAP）推論アルゴリズムを用いたハードな公平性制約を組み込む制約ベースのアプローチによって強制される。
• 推薦精度（RMSEおよびMAEで測定）と公平性（バランス、価値、非対称性不平等指標で測定）を同時に最適化する。
• 保護対象グループ（例：女性）の予測評価値が非保護グループとバランスよくなるように、公平性ルールを適用し、低くまたは高く評価されすぎることを最小限に抑える。
• 本アプローチは、MovieLensデータセットを用いて評価され、非公平および公平な行列分解ベースラインと比較される。

実験結果

リサーチクエスチョン

• RQ1 統合的ハイブリッドレコメンデーションシステムは、レコメンエーションシステムにおける観測バイアスとデータ不均衡バイアスの両方を効果的に低減できるか？
• RQ2 PSLベースのモデルに公平性制約を統合することで、従来の行列分解手法と比較して、推薦精度と公平性指標にどのような影響を与えるか？
• RQ3 確率的ソフト論理フレームワークは、ハイブリッドレコメンエーションシステムにおいて、スケーラブルかつ宣言的な公平性の強制をどの程度サポートできるか？
• RQ4 バランス、価値、非対称性といった異なる公平性指標を最適化する際の、それぞれの指標間のトレードオフはどの程度か？
• RQ5 提案された公平性に配慮したPSLモデルは、精度と公平性の両面で、最先端の公平な行列分解モデルを上回るか？

主な発見

• 公平なPSLモデルは、非公平なPSLおよびすべての公平な行列分解モデルと比較して、バランス不平等の低減において顕著に優れており、特に女性ユーザーの評価値の低く評価されすぎることを防ぐ点で顕著である。
• PSLモデルに公平性ルールを追加しても、性能の低下はわずかにとどまる—MC+CF PSLモデルではRMSEが0.014、MAEが0.007低下するにとどまり、公平性と精度のトレードオフは最小限である。
• 公平なPSLモデルは、非対称性不平等の観点から、公平なMFモデルを上回っており、特に非公平なPSLモデルと比較して統計的に有意な改善を示している。
• 公平性ルールを適用したMC+CF+DC PSLモデルは、非公平バージョンと比較してRMSEが0.005低下、MAEが0.002低下しており、公平性制約を最小限のコストで統合できることを示している。
• 単一のモデルがすべての指標で公平性を達成しているわけではないが、公平なPSLモデルはRMSE、MAE、絶対値、価値、バランス不平等といった複数の指標で一貫して公平性を向上させつつ、高い精度を維持している。
• 提案された公平なPSLモデルは、特に性別に基づく評価値の不均衡を是正する点で、最先端の公平な行列分解モデルを上回る包括的な精度と公平性を達成している。