[论文解读] Recommendations and User Agency: The Reachability of Collaboratively-Filtered Information

Sarah Dean, Sarah Rich+1 more|arXiv (Cornell University)|Dec 20, 2019

Recommender Systems and Techniques参考文献 44被引用 5

一句话总结

本文提出了一种可达性框架，通过建模用户通过行为改变访问新内容的难易程度，评估线性 top-N 推荐系统中的用户自主性。该框架提出一种基于线性规划的计算高效审计方法，用于评估用户补救措施，揭示出模型复杂度直接影响用户摆脱过滤气泡所需的努力，对冷启动和推荐多样性具有启示意义。

ABSTRACT

Recommender systems often rely on models which are trained to maximize accuracy in predicting user preferences. When the systems are deployed, these models determine the availability of content and information to different users. The gap between these objectives gives rise to a potential for unintended consequences, contributing to phenomena such as filter bubbles and polarization. In this work, we consider directly the information availability problem through the lens of user recourse. Using ideas of reachability, we propose a computationally efficient audit for top-$N$ linear recommender models. Furthermore, we describe the relationship between model complexity and the effort necessary for users to exert control over their recommendations. We use this insight to provide a novel perspective on the user cold-start problem. Finally, we demonstrate these concepts with an empirical investigation of a state-of-the-art model trained on a widely used movie ratings dataset.

研究动机与目标

• 为解决个性化推荐系统中因模型偏差导致用户可能被困于过滤气泡而缺乏用户自主性的问题。
• 将用户补救形式化为线性 top-N 推荐模型中的可达性问题，聚焦于用户如何通过行为改变访问新内容。
• 开发一种计算高效的审计方法，以评估用户实现期望推荐的难易程度，且独立于静态行为预测。
• 通过可达性视角重新审视冷启动问题，表明用户表征的更新会影响长期内容可访问性。
• 证明模型复杂度和潜在空间结构决定了用户驱动内容发现的可行性，对公平性和多样性具有影响。

提出的方法

• 提出一种可达性框架，将用户补救定义为通过行为改变访问任意项目的能力，建模为线性可行性问题。
• 使用带有用户和项目偏置的线性偏好模型：$\widehat{r}_{ui} = \mu + b_i + c_u + \mathbf{p}_u^\top \mathbf{q}_i$，其中 $\mathbf{p}_u$ 是通过仿射变换 $\mathbf{p}_u = A\mathbf{r}_u + \mathbf{d}$ 更新的用户嵌入。
• 将项目区域 $\mathcal{P}_i$ 定义为会导致项目 $i$ 落入 top-N 推荐的用户表征集合，基于涉及项目和用户嵌入的线性不等式。
• 构建一个线性规划问题，以确定用户为达到目标项目所需最小的行为改变 $\mathbf{a}$，受约束于 $G_i(\mathbf{v}_0 + B\mathbf{a}) > h_i$，其中 $G_i$ 和 $h_i$ 编码 top-N 排名条件。
• 将该审计方法应用于在 MovieLens 数据集上训练的最先进模型，展示可达性如何随模型复杂度和用户历史变化。
• 提出冷启动问题的全新解释：若模型的潜在空间不支持其表征，即使用户无历史记录，也可能无法被访问。

实验结果

研究问题

• RQ1 用户在多大程度上可以通过改变观看行为访问新内容，这又如何依赖于模型的潜在结构？
• RQ2 模型复杂度在多大程度上影响用户实现用户指定推荐所需的努力？
• RQ3 在何种结构条件下，用户即使经历剧烈行为改变，仍可能被其历史‘归类’？
• RQ4 在不同用户画像中，尤其是冷启动场景下，项目的可达性如何变化？
• RQ5 我们能否正式审计一个训练好的模型，以确定其是否促进或限制了用户在内容发现中的自主性？

主要发现

• top-N 推荐中项目的可达性由潜在空间中用户和项目嵌入的几何结构决定，线性约束定义了每个项目可行的用户表征。
• 基于线性规划的计算高效审计可确定用户是否能通过最小行为改变访问目标项目，从而实现对模型层面用户自主性的评估。
• 模型复杂度，特别是用户更新矩阵 $A$ 的秩，直接影响用户补救的难度：更高复杂度可实现更灵活的用户适应。
• 冷启动问题被重新定义为可达性问题：若模型的潜在空间不支持其表征，即使用户经历完全行为改变，无历史记录的用户也可能无法被访问。
• 在 MovieLens 上的实证结果表明，可达性在不同用户和项目间存在显著差异，部分用户面临访问多样化或新颖内容的高壁垒。
• 该框架揭示，即使模型准确，当潜在空间结构编码了限制新兴趣表征的偏见时，仍可能限制用户自主性。