[论文解读] Building Human Values into Recommender Systems: An Interdisciplinary Synthesis

Jonathan Stray, Alon Halevy+19 more|arXiv (Cornell University)|Jul 20, 2022

Decision-Making and Behavioral Economics参考文献 308被引用 14

一句话总结

本文综合伦理学、社会科学和计算机科学的跨学科洞见，提出一种将人类价值观（如公平性、透明度和福祉）嵌入推荐系统的方法论框架。它阐述了以价值观为导向的设计原则、测量方法与政策机制，识别出关键开放问题，如多利益相关方的价值权衡与长期结果优化。

ABSTRACT

Recommender systems are the algorithms which select, filter, and personalize content across many of the worlds largest platforms and apps. As such, their positive and negative effects on individuals and on societies have been extensively theorized and studied. Our overarching question is how to ensure that recommender systems enact the values of the individuals and societies that they serve. Addressing this question in a principled fashion requires technical knowledge of recommender design and operation, and also critically depends on insights from diverse fields including social science, ethics, economics, psychology, policy and law. This paper is a multidisciplinary effort to synthesize theory and practice from different perspectives, with the goal of providing a shared language, articulating current design approaches, and identifying open problems. It is not a comprehensive survey of this large space, but a set of highlights identified by our diverse author cohort. We collect a set of values that seem most relevant to recommender systems operating across different domains, then examine them from the perspectives of current industry practice, measurement, product design, and policy approaches. Important open problems include multi-stakeholder processes for defining values and resolving trade-offs, better values-driven measurements, recommender controls that people use, non-behavioral algorithmic feedback, optimization for long-term outcomes, causal inference of recommender effects, academic-industry research collaborations, and interdisciplinary policy-making.

研究动机与目标

• 通过以共享的人类价值观为基础，应对推荐系统日益增长的社会影响。
• 弥合推荐系统技术开发与伦理学、心理学、法学及政策研究之间存在的鸿沟。
• 识别并阐明在现实系统中定义、测量与实现价值观的核心挑战。
• 促进学术界、产业界与政策制定者之间在塑造负责任人工智能系统方面的跨学科协作。
• 提供一个以价值观为先的共享概念框架，用于通过价值观视角评估和改进推荐系统。

提出的方法

• 对计算机科学、伦理学、社会科学、经济学与法学的理论与实践进行多学科综合分析。
• 识别出一组核心价值观（如公平性、自主性、透明度与福祉），这些价值观在各领域中被认为最为相关。
• 映射当前的行业实践、产品设计模式与测量技术，以评估其与人类价值观的一致性。
• 提出一种以价值观为导向的系统评估框架，包括非行为反馈与系统影响的因果推断。
• 整合政策与治理模型，以支持多利益相关方的价值定义与权衡解决。
• 倡导学术界与产业界的研究合作，以提升长期结果优化与系统问责性。

实验结果

研究问题

• RQ1 如何在推荐系统的设计中系统性地识别并实现人类价值观？
• RQ2 在现实推荐系统中，不同价值观（如个性化与多样性）之间的关键权衡是什么？
• RQ3 如何在用户参与度指标之外衡量与监控价值观？
• RQ4 非行为反馈与因果推断在评估推荐系统长期社会影响方面发挥什么作用？
• RQ5 跨学科协作与政策框架如何支持开发与价值观对齐的推荐系统？

主要发现

• 各方就一组核心价值观（如公平性、透明度、自主性与福祉）达成共识，这些价值观对负责任的推荐系统至关重要。
• 当前的行业实践往往优先考虑参与度指标，而非价值观，导致极化与虚假信息等意外社会危害。
• 现有测量框架不足以捕捉长期结果或非行为影响（如福祉或信任）。
• 迫切需要为终端用户设计实用且有意义的推荐控制机制，而不仅仅是技术抽象。
• 开放问题包括：开发多利益相关方的价值定义流程、系统影响的因果推断，以及可持续的学术-产业合作。
• 本文将长期结果优化确定为关键挑战，尤其是在短期参与度指标与社会福祉发生冲突时。