[论文解读] Social Media, Content Moderation, and Technology

Yi Liu, Pınar Yıldırım+1 more|arXiv (Cornell University)|Jan 12, 2021

Media Influence and Politics参考文献 26被引用 13

一句话总结

本文提出一个理论模型，分析自利的社交媒体平台在不同收入模式（广告 vs. 订阅）下如何优化内容审核。研究发现，广告收入模式的平台更可能进行内容审核，且审核力度低于订阅模式平台，该结论得到对65个平台的调查结果支持，显示订阅平台审核了更多内容类别。核心贡献在于将内容审核视为一种战略性营销工具，用以塑造平台定位并提升用户留存率。

ABSTRACT

This paper develops a theoretical model to study the economic incentives for a social media platform to moderate user-generated content. We show that a self-interested platform can use content moderation as an effective marketing tool to expand its installed user base, to increase the utility of its users, and to achieve its positioning as a moderate or extreme content platform. The optimal content moderation strategy differs for platforms with different revenue models, advertising or subscription. We also show that a platform's content moderation strategy depends on its technical sophistication. Because of imperfect technology, a platform may optimally throw away the moderate content more than the extreme content. Therefore, one cannot judge how extreme a platform is by just looking at its content moderation strategy. Furthermore, we show that a platform under advertising does not necessarily benefit from a better technology for content moderation, but one under subscription does. This means that platforms under different revenue models can have different incentives to improve their content moderation technology. Finally, we draw managerial and policy implications from our insights.

研究动机与目标

• 理解自利平台如何在不同商业模式下设计内容审核策略以最大化收入。
• 分析收入模式（广告 vs. 订阅）是否影响平台在内容审核方面的激励与策略。
• 评估平台是否始终投资于更优的内容审核技术，以及这如何影响用户规模与用户支付意愿。
• 比较自由市场下的内容审核结果与社会最优水平，识别潜在的监管依据。

提出的方法

• 构建一个理论模型，其中用户从发帖与阅读内容中获得效用，同时因极端内容而产生负效用。
• 将平台收入建模为两种形式：基于广告的收入（收入与用户参与度成正比）或基于订阅的收入（每位用户固定费用）。
• 推导出最优内容审核策略，作为用户偏好、收入模式与技术能力的函数。
• 通过调查65个平台，由评分员回答关于10个内容类别的是/否问题，评估内容审核政策。
• 使用两种聚合方法实证检验理论预测：每个内容类别的“是”回答比例（PER）与多数规则（MR）。
• 采用OLS回归分析，以平台审核强度（categories_PER 或 categories_MR）为因变量，以广告收入虚拟变量（AD）为自变量。

实验结果

研究问题

• RQ1 平台的收入模式（广告 vs. 订阅）如何影响其内容审核策略？
• RQ2 平台是否总是偏好更优的内容审核技术以实现利润最大化？
• RQ3 与社会最优水平相比，自由市场下的内容审核在内容极端性与用户福利方面表现如何？
• RQ4 用户对极端内容容忍度的异质性在多大程度上可为差异化审核策略提供正当性？

主要发现

• 在广告收入模式下的平台比订阅模式平台更可能进行内容审核，67个被审核平台中有65个呈现此趋势。
• 回归结果表明，在多数规则模型中，AD的系数为负且显著（β′₁ = -0.751，p < 0.05），表明订阅平台审核了更多内容类别。
• 基于比例的度量（categories_PER）显示系数为负但精确度较低（β₁ = -0.235，p > 0.05），表明数据中存在更高噪声。
• 结果支持理论预测：当平台进行审核时，订阅模式平台的审核力度显著高于广告模式平台。
• 本研究发现，内容审核具有双重营销功能：通过剔除极端用户扩大用户基础，并通过降低阅读负效用提升用户支付意愿。
• 实证证据证实，采用订阅收入模式的平台在包括仇恨言论、暴力和虚假信息在内的多种内容类别上均表现出更广泛的内容审核。