[論文レビュー] Exploring User Opinions of Fairness in Recommender Systems

Jessie J. Smith, Nasim Sonboli+2 more|arXiv (Cornell University)|Mar 13, 2020

Ethics and Social Impacts of AI参考文献 8被引用数 5

ひとこと要約

本研究は、ユーザー中心のアプローチを通じて、マルチステークホルダー型レコメンデーションシステムにおける消費者の公平性認識を調査し、特に住宅、雇用、融資などのハイリスク分野において、潜在的な被害が顕在化している場合、ユーザーが提供者公平性を優先することを明らかにした。主な貢献は、ユーザー主導のパーソナライゼーションと公平性のトレードオフを同定し、信頼性とバイアスに配慮した設計を強調することで、レコメンデーションアルゴリズムにおける信頼性と公平性を高めることにある。

ABSTRACT

Algorithmic fairness for artificial intelligence has become increasingly relevant as these systems become more pervasive in society. One realm of AI, recommender systems, presents unique challenges for fairness due to trade offs between optimizing accuracy for users and fairness to providers. But what is fair in the context of recommendation--particularly when there are multiple stakeholders? In an initial exploration of this problem, we ask users what their ideas of fair treatment in recommendation might be, and why. We analyze what might cause discrepancies or changes between user's opinions towards fairness to eventually help inform the design of fairer and more transparent recommendation algorithms.

研究の動機と目的

• 消費者が、特に消費者と提供者を含むマルチステークホルダーの文脈において、レコメンデーションシステムにおける公平性をどのように定義するかを理解すること。
• レコメンデーションの潜在的影響が、ユーザーがパーソナライゼーションを公平性と交換する意思にどのように影響するかを調査すること。
• 説明と透明性が、レコメンデーションシステムにおける公平な取り扱いの認識をどのように形成するかを検討すること。
• 個人のバイアスとステークホルダーの視点が、アルゴリズム的レコメンデーションにおける公平性の見解にどのように影響するかを特定すること。
• ユーザーの価値観と期待に基づいて公平性の目標を定義することで、より公平で透明性のあるレコメンデーションシステムの設計を支援すること。

提案手法

• 主に大学院生を対象に、Netflix、Amazon、Kiva などの身近なレコメンデーションシステムにおける公平性に関するユーザーの見解を調査するため、30名の参加者に対して深掘りの半構造的インタビューを実施した。
• テーマ分析を用いて、公平性、バイアス、透明性、トレードオフに関するユーザーの反応から繰り返し現れるパターンとテーマを同定した。
• 住宅、求職、融資プラットフォームなどのハイリスク応用分野を文脈として分析し、ユーザーが認識するリスクが公平性の好みにどのように影響するかを評価した。
• 説明と透明性が、提供者多様性のためのレコメンデーション変更がある場合に、ユーザーの信頼と公平性認識にどのように影響するかを検討した。
• Etsyでの販売者としての経験など、個人の背景と経験が、ユーザーの公平性の好みとバイアス認識に与える影響を分析した。
• 公平性をデフォルト設定すべきかどうか、および説明が操作を避けるように設計されるべきかどうかについて、ユーザーの反省を収集・分析した。

実験結果

リサーチクエスチョン

• RQ1 ユーザーは、特に消費者と提供者が関与するマルチステークホルダーの文脈において、レコメンデーションシステムにおける公平性をどのように定義するか？
• RQ2 住宅、求職、融資などの分野におけるレコメンデーションの潜在的影響（結果）が、ユーザーのパーソナライゼーションと提供者公平性の間の選択にどのように影響するか？
• RQ3 ユーザーの個人的バイアスと経験が、レコメンデーションにおけるアルゴリズム的公平性の見解にどの程度影響を及ぼすか？
• RQ4 説明と透明性が、ユーザーの公平性認識とレコメンデーションシステムへの信頼にどのように影響するか？
• RQ5 公平性をデフォルト設定にすることで、ユーザーがレコメンデーションの受容において自らの内省的バイアスに気づき、それに対処するのを助ける役割は何か？

主な発見

• 住宅、求職、金融融資の文脈のように、レコメンデーションの結果がハイリスクである場合には、ユーザーはパーソナライゼーションの一部を犠牲にしてでも、提供者公平性を優先する傾向がある。
• 参加者らは、Zillow や Indeed.com のようなシステムにおいて、公平性が中心的な目標でなければならないと述べており、バイアスのあるレコメンデーションが体系的不平等や被害を引き起こす可能性があると指摘した。
• Etsyでの販売者としての経験など、個人の背景と経験が、ユーザーの提供者への共感や、パーソナライゼーションよりも公平性を好む傾向に顕著に影響を与えた。
• 多くのユーザーが、意思決定を操作するように見える説明に不快感を示し、設計が不適切な説明は、間接的にバイアスを強化する、あるいはユーザーを「洗脳」する可能性があると警告した。
• 特にパーソナライゼーションから逸脱した場合に、レコメンデーションの理由を説明する透明性を好む一方で、行動を操作するように設計された説明は拒否した。
• 公平性をシステムのデフォルトにし、ユーザーがそれを無効にできるようにすることで、ユーザーがレコメンデーションの受容において自らの内省的バイアスに気づき、理解を深める手助けになると強く支持されている。