[論文レビュー] Fair Personalization

L. Elisa Celis|arXiv (Cornell University)|Jul 7, 2017

Advanced Bandit Algorithms Research参考文献 21被引用数 5

ひとこと要約

本稿では、文脈バンディット最適化におけるオンライングループ公平性制約を用いて、パーソナライズドコンテンツ選択における利便性と公平性のバランスをとる公平なパーソナライゼーションフレームワークを提案する。ユーザーのタイプごとにコンテンツグループの露出を制限することで、多対数的レジスト（poly-logarithmic regret）を達成し、公平性を最小限の利便性・関連性の損失で実装可能であることを示している。

ABSTRACT

Personalization is pervasive in the online space as, when combined with learning, it leads to higher efficiency and revenue by allowing the most relevant content to be served to each user. However, recent studies suggest that such personalization can propagate societal or systemic biases, which has led to calls for regulatory mechanisms and algorithms to combat inequality. Here we propose a rigorous algorithmic framework that allows for the possibility to control biased or discriminatory personalization with respect to sensitive attributes of users without losing all of the benefits of personalization.

研究の動機と目的

• アルゴリズム的パーソナライゼーションから生じるシステム的バイアスを是正すること。
• 感受性のあるユーザー属性に関して、バイアスがかかるパーソナライゼーションを制御可能な形式的・アルゴリズム的フレームワークを構築すること。
• 公平性を確保しつつも、パーソナライズドコンテンツ選択における高い利便性と関連性を維持すること。
• オンライン学習の文脈において、公平性制約と利便性の損失のトレードオフを明らかにすること。
• ニュースフィード、広告、レコメンデーションシステムに適用可能な公平なパーソナライゼーションの理論的基盤を提供すること。

提案手法

• 著者らは、コンテンツグループの確率分布に対する制約としてオンライングループ公平性を定義し、各ユーザーのタイプが異なるコンテンツタイプに対してバランスの取れた露出を得られることを保証する。
• フィードバック（例：クリック）に基づいて確率分布を更新する文脈バンディットとしてコンテンツ選択問題をモデル化する。
• バンディット凸最適化を活用し、期待されるフィードバック（例：クリック）を最大化すると同時に、各時刻において公平性制約を満たす。
• 各コンテンツグループ i に対する露出割合の下限（ℓᵢ）と上限（uᵢ）として制約を定義し、特定のグループが体系的に除外されないよう保証する。
• コンテンツグループ内でのパーソナライゼーションを許容するが、グループ間での歪みを防ぎ、コンテンツ露出の多様性を維持する。
• 理論的分析により、適切な制約構造のもとで、公平性制約下でも近似的に最適な（多対数的）レジストが維持されることを示している。

実験結果

リサーチクエスチョン

• RQ1 パーソナライズドコンテンツ選択における公平性を、利便性の損失を伴わずに形式的に定義・実装できるか？
• RQ2 公平性制約を、文脈バンディットのようなオンライン学習フレームワークに統合する方法は何か？
• RQ3 パーソナライズドレコメンデーションシステムにおける公平性と利便性のトレードオフは何か？
• RQ4 関連性のあるパーソナライゼーションを許容しつつも、ユーザーのタイプごとに公平性を維持できるか？
• RQ5 公平性制約は、オンライン学習アルゴリズムの収束性および性能にどのように影響するか？

主な発見

• 提案されたフレームワークは、確率的バンディット設定において多対数的レジストを達成しており、公平性制約が学習効率に顕著な損失をもたらさないことを示している。
• 理論的結果により、公平性制約を活用することで近似的に最適なレジストを維持でき、公平なパーソナライゼーションが顕著な利便性の損失なしに実現可能であることが示された。
• フレームワークにより、特定のユーザーのタイプが特定のコンテンツグループからの露出を体系的に排除されることを防ぎ、システム的バイアスの緩和が可能である。
• コンテンツグループの確率分布を制約することで、フィルターバブルやエコーチェンバーを引き起こす極端なパーソナライゼーションを回避する。
• グループ内でのパーソナライゼーションを許容しつつも、グループ間の歪みを防ぎ、関連性を保ちながら公平性を強制できる。
• 本手法は、実証的にバイアスのあるコンテンツ露出が確認されているニュースレコメンデーションやオンライン広告などの実世界のシステムに適用可能である。