[论文解读] Solutions to preference manipulation in recommender systems require knowledge of meta-preferences

Hal Ashton, Matija Franklin|arXiv (Cornell University)|Sep 14, 2022

Data Management and Algorithms被引用 21

一句话总结

本文认为解决推荐系统中的偏好操控需要学习用户的元偏好（关于偏好的偏好），以尊重自治并区分受欢迎的与不受欢迎的变化。

ABSTRACT

Iterative machine learning algorithms used to power recommender systems often change people's preferences by trying to learn them. Further a recommender can better predict what a user will do by making its users more predictable. Some preference changes on the part of the user are self-induced and desired whether the recommender caused them or not. This paper proposes that solutions to preference manipulation in recommender systems must take into account certain meta-preferences (preferences over another preference) in order to respect the autonomy of the user and not be manipulative.

研究动机与目标

• 激发迭代式推荐系统中偏好操控问题的研究动机。
• 引入元偏好，将其视为对偏好本身的偏好，以尊重用户自治。
• 论证现有解决方案未能考虑用户的元偏好。
• 提出通过学习元偏好来提升推荐与用户目标的一致性。

提出的方法

• 对以机器学习驱动的推荐系统中的偏好操控进行概念性分析。
• 元偏好及其跨时态（conative）方面的界定与示例。
• 将偏好改变偏好与同意作为尊重自治的机制进行讨论。
• 提出将元偏好学习纳入推荐系统设计以抵抗操纵性转变。

实验结果

研究问题

• RQ1 元偏好是否能够区分用户偏好中的受欢迎与不受欢迎或操纵性变化？
• RQ2 推荐系统在实践中如何学习并尊重用户的元偏好？
• RQ3 偏好改变偏好与同意在减轻操控中扮演何种角色？
• RQ4 通过基于示例的解释进行元偏好获取在多大程度上能帮助实现自治感知的推荐？

主要发现

• 当前解决偏好操控的问题（例如对比事实分析的惩罚或自然变动惩罚）被认为不令人满意，因为未考虑元偏好。
• 元偏好被定义为对偏好的偏好，包含跨时态和意向性方面。
• 理解元偏好有助于在保持自治的同时使推荐更接近用户实际上想要的内容。
• 偏好改变同意和元偏好获取可用于警示用户或调整学习信号。
• 基于示例的XAI解释被提出作为元偏好获取与对齐的方法。