[論文レビュー] UP5: Unbiased Foundation Model for Fairness-aware Recommendation

Wenyue Hua, Yingqiang Ge+3 more|arXiv (Cornell University)|May 20, 2023

Recommender Systems and Techniques被引用数 7

ひとこと要約

本稿では、大規模言語モデル（LLM）におけるユーザーフェアネス問題を軽減するための新しいアンバイアスドベースモデルUP5を提案する。UP5は、対照的公平性プロンプト（CFP）を用い、ユーザーフェアネスの不平等を是正する。CFPは、個別化されたプレフィックスプロンプトとプロンプトミキシングモジュールを採用し、属性固有のフェアネスを実現しながらも推薦性能を維持する。本手法は、MovieLens-1MおよびInsuranceデータセットにおいて、フェアネスと精度の両面で最先端の性能を達成した。

ABSTRACT

Recent advances in Foundation Models such as Large Language Models (LLMs) have propelled them to the forefront of Recommender Systems (RS). Despite their utility, there is a growing concern that LLMs might inadvertently perpetuate societal stereotypes, resulting in unfair recommendations. Since fairness is critical for RS as many users take it for decision-making and demand fulfillment, this paper focuses on user-side fairness for LLM-based recommendation where the users may require a recommender system to be fair on specific sensitive features such as gender or age. In this paper, we dive into the extent of unfairness exhibited by LLM-based recommender models based on both T5 and LLaMA backbones, and discuss appropriate methods for promoting equitable treatment of users in LLM-based recommendation models. We introduce a novel Counterfactually-Fair-Prompt (CFP) method towards Unbiased Foundation mOdels (UFO) for fairness-aware LLM-based recommendation. Experiments are conducted on two real-world datasets, MovieLens-1M and Insurance, and compared with both matching-based and sequential-based fairness-aware recommendation models. Results show that CFP achieves better recommendation performance with a high level of fairness. Data and code are open-sourced at https://github.com/agiresearch/UP5.

研究の動機と目的

• 大規模言語モデル（LLM）を推薦システム（RS）に用いる際の、特にユーザーフェアネスに影響を及げる属性（性別、年齢、婚姻状況など）に関する不平等を調査・定量すること。
• 従来のユーザーエンベッディングに依存するフェアネス手法が適用できない、LLMベースのRSにおけるユーザーフェアネス問題に対処すること。
• 大規模言語モデル全体の微調整を必要とせず、パラメータ効率的かつスケーラブルな方法でフェアな推薦を実現する手法を開発すること。
• プロンプト工学を用いて、感度属性の影響を動的に制御することで、フェアネスと推薦性能のバランスを取ること。
• 複数の感度属性および複数の推薦タスクに一般化可能なフレームワークを提供すること。

提案手法

• LLMベースのRSにおける不平等を検出するための3つのプローブ手法を提案し、性別、年齢、婚姻状況などの感度属性が推薦にどの程度影響を与えているかを評価する。
• 対照的公平性プロンプト（CFP）を導入し、各感度属性ごとに個別化されたプレフィックスプロンプトを用いることで、感度情報の分離を実現するとともに、LLMの重みを固定したままにしている。
• 複数の感度属性を持つユーザーに対し、フェアな推薦を生成するために、複数の単一属性プロンプトを組み合わせるプロンプトミキシングモジュールを採用している。
• 推論時にプレフィックスプロンプト内のトークンの重みを再計算することで、フェアネスと推薦精度のバランスを取るためのプロンプトトークン再重み付け器を設計している。
• 敵対的訓練において、感度属性の漏洩を測定・低減するために、マルチクラス分類器をディスクラミネーターとして用いている。
• ソフトプローブプロンプトをディスクラミネーターとしての有効性を検証し、フェアネス学習において分類器に比べてやや弱い結果が得られたことから、ソフトプローブは不十分であることが判明した。

Figure 1. Model Structures of the Probing Methods

実験結果

リサーチクエスチョン

• RQ1 推薦用LLMが性別、年齢、婚姻状況などの感度属性に基づいて、どの程度不平等を示しているのか？
• RQ2 大規模言語モデルのファインチューニングなしで、プロンプトベースの手法がLLMベースの推薦システムにおけるユーザーフェアネス問題を効果的に是正できるか？
• RQ3 複数の感度属性にわたるフェアネスを維持しつつ、高い推薦性能を達成するにはどうすればよいか？
• RQ4 プロンプトベースのフェアネス是正において、フェアネスと推薦精度のトレードオフはどのようなものであり、最適化にはどう対処すべきか？
• RQ5 敵対的訓練におけるディスクラミネーターとして、ソフトプローブプロンプトは十分か、それともより強力な分類器が必要か？

主な発見

• プローブ実験の結果、LLMによる推薦システムは顕著な不平等を示しており、性別や年齢といった感度属性がモデル出力から確実に推定可能であることが確認された。
• UP5は、MovieLens-1MおよびInsuranceデータセットの両方で最先端の性能を達成し、Hit@1およびAUC指標の両方で、既存のフェアネス指向モデルを上回った。
• プロンプトトークン再重み付け器は、フェアネスと推薦性能のバランスを効果的に取ることができ、アブレーションスタディにより、精度を劣化させることなくフェアネスを向上させた。
• 長いプロンプト長は推薦性能を向上させるが、フェアネスを低下させる傾向にあり、ディスクラミネーターの重みを高くするとフェアネスは向上するが性能が低下する傾向にあり、トレードオフの関係が明確に示された。
• マルチクラス分類器をディスクラミネーターとして用いることで、ソフトプローブプロンプトよりもはるかに効果的に感度属性漏洩を低減でき、ソフトプローブでは残存する属性情報の検出に失敗した。
• CFP手法により、感度属性の推定が著しく低下（AUCが約50％に近づく）した一方で、高い推薦品質を維持しており、フェアネスと性能の分離が成功したことが示された。

Figure 2. P5 sensitive attribute unfairness