[论文解读] Modeling Content Creator Incentives on Algorithm-Curated Platforms

Jiri Hron, Karl Krauth+3 more|arXiv (Cornell University)|Jun 27, 2022

FinTech, Crowdfunding, Digital Finance被引用 5

一句话总结

本文提出了曝光博弈（exposure game）这一博弈论模型，形式化了在算法推荐平台中内容创作者的战略激励机制。通过建模创作者如何利用嵌入（embeddings）优化算法曝光度，作者发现算法选择（如非负分解与无约束分解）会显著影响纳什均衡的存在性与性质，揭示了算法设计、内容多样性以及对基于性别的用户与创作者群体的偏见之间存在紧密关联。

ABSTRACT

Content creators compete for user attention. Their reach crucially depends on algorithmic choices made by developers on online platforms. To maximize exposure, many creators adapt strategically, as evidenced by examples like the sprawling search engine optimization industry. This begets competition for the finite user attention pool. We formalize these dynamics in what we call an exposure game, a model of incentives induced by algorithms, including modern factorization and (deep) two-tower architectures. We prove that seemingly innocuous algorithmic choices, e.g., non-negative vs. unconstrained factorization, significantly affect the existence and character of (Nash) equilibria in exposure games. We proffer use of creator behavior models, like exposure games, for an (ex-ante) pre-deployment audit. Such an audit can identify misalignment between desirable and incentivized content, and thus complement post-hoc measures like content filtering and moderation. To this end, we propose tools for numerically finding equilibria in exposure games, and illustrate results of an audit on the MovieLens and LastFM datasets. Among else, we find that the strategically produced content exhibits strong dependence between algorithmic exploration and content diversity, and between model expressivity and bias towards gender-based user and creator groups.

研究动机与目标

• 形式化算法推荐平台中内容创作者的战略激励机制，其中曝光度取决于算法排名。
• 分析看似微小的算法设计选择（如非负嵌入与无约束嵌入）如何影响内容创作中纳什均衡的存在性与结构。
• 开发一种基于曝光博弈的预部署审计框架，用于在算法上线前检测理想内容与激励内容之间的错位。
• 使用MovieLens与LastFM数据集，实证评估算法参数（如嵌入维度、探索水平）对内容多样性与表征偏见的影响。

提出的方法

• 将曝光博弈形式化为非合作博弈，创作者（玩家）选择内容策略（嵌入）以在固定算法下最大化预期曝光度。
• 将曝光度建模为用户被展示创作者内容的期望概率，通过基于softmax的排名函数对用户-项目嵌入进行计算。
• 在单位球面上使用梯度上升法数值计算局部纳什均衡（LNE），并将策略约束在单位球面上以确保归一化。
• 应用二阶黎曼检验，验证计算出的不动点是否确为局部纳什均衡，通过检查切空间中海森矩阵是否为负定来判断。
• 通过模拟不同算法配置（如NMF与PMF、不同嵌入维度、探索水平）下的LNE，开展预部署审计。
• 使用基于矩阵分解的推荐系统（包括带偏置的PMF）模拟现实世界中的算法系统，并分析由此产生的内容激励机制。

实验结果

研究问题

• RQ1 非负分解与无约束分解等算法选择如何影响内容创作博弈中纳什均衡的存在性与多重性？
• RQ2 算法探索程度（温度超参数）与最终内容多样性及战略专业化之间存在何种关系？
• RQ3 模型表达能力（如嵌入维度）如何影响激励内容中对特定性别群体用户或创作者的偏见？
• RQ4 曝光博弈能否作为有效的预部署审计工具，在算法部署前检测理想内容与激励内容之间的错位？
• RQ5 算法超参数（如学习率、温度）的变化在多大程度上改变均衡结构及最终的内容格局？

主要发现

• 非负分解导致唯一纳什均衡，而无约束分解可能产生多个均衡，表明算法设计直接影响战略结果。
• 高水平的算法探索（较高温度）激励广泛吸引力的内容，而低水平探索则导致内容专业化与小众内容创作。
• 内容多样性强烈依赖于算法探索程度与模型表达能力，在某些配置下，更高的嵌入维度会放大多样性。
• 曝光博弈模型揭示了在特定算法架构下，激励内容对某些基于性别的用户与创作者群体存在显著偏见。
• 在LastFM上超过90%的运行中，二阶黎曼检验成功验证了LNE；在MovieLens上成功率为70%，证实了计算出的均衡具有鲁棒性。
• 使用曝光博弈进行的预部署审计成功检测到理想内容与激励内容之间的错位，证明该方法在算法治理中具有作为前瞻性工具的潜力。