[论文解读] On Microtargeting Socially Divisive Ads: A Case Study of Russia-Linked Ad Campaigns on Facebook

Filipe Nunes Ribeiro, Koustuv Saha+7 more|MPG.PuRe (Max Planck Society)|Aug 28, 2018

Misinformation and Its Impacts参考文献 18被引用 23

一句话总结

本研究调查了与俄罗斯有关的行动者如何利用 Facebook 的广告定向系统，在 2016 年美国大选前对特定群体进行微观定位，传播具有分裂性的政治内容。通过分析调查数据和广告定向元数据，作者证明这些广告极为有效（点击率比普通广告高出 10 倍），并有针对性地作用于在意识形态和种族上被边缘化的群体，这些群体更可能认可、相信虚假信息，且更少报告虚假内容，揭示了社交媒体广告平台存在的系统性漏洞。

ABSTRACT

Targeted advertising is meant to improve the efficiency of matching advertisers to their customers. However, targeted advertising can also be abused by malicious advertisers to efficiently reach people susceptible to false stories, stoke grievances, and incite social conflict. Since targeted ads are not seen by non-targeted and non-vulnerable people, malicious ads are likely to go unreported and their effects undetected. This work examines a specific case of malicious advertising, exploring the extent to which political ads from the Russian Intelligence Research Agency (IRA) run prior to 2016 U.S. elections exploited Facebook's targeted advertising infrastructure to efficiently target ads on divisive or polarizing topics (e.g., immigration, race-based policing) at vulnerable sub-populations. In particular, we do the following: (a) We conduct U.S. census-representative surveys to characterize how users with different political ideologies report, approve, and perceive truth in the content of the IRA ads. Our surveys show that many ads are "divisive": they elicit very different reactions from people belonging to different socially salient groups. (b) We characterize how these divisive ads are targeted to sub-populations that feel particularly aggrieved by the status quo. Our findings support existing calls for greater transparency of content and targeting of political ads. (c) We particularly focus on how the Facebook ad API facilitates such targeting. We show how the enormous amount of personal data Facebook aggregates about users and makes available to advertisers enables such malicious targeting.

研究动机与目标

• 调查恶意行为者如何利用 Facebook 的定向广告系统，在 2016 年美国大选前传播具有社会分裂性的内容。
• 通过测量不同政治群体（自由派与保守派）对 IRA 运营广告的差异化反应，评估其意识形态分裂程度。
• 评估广告定向的有效性及其在人口统计学上的偏差，特别关注被选中的对象及其原因。
• 分析 Facebook 广告 API 及其定向建议工具如何实现对脆弱人群的精确、隐蔽覆盖。
• 基于定向公式和点击率阈值，倡导改进广告透明度与自动化检测机制。

提出的方法

• 开展基于美国人口普查的代表性调查，测量自由派与保守派人群对 IRA 广告的报告意愿、认可度及对真相的感知。
• 计算 IRA 广告的点击率（CTR），并与典型 Facebook 广告进行比较，以评估定向效果。
• 分析 Facebook 广告 API 中的人口统计与兴趣定向公式，重点关注敏感属性如“黑人意识运动”和“奇卡诺运动”。
• 使用相关性分析，将目标受众的人口统计特征与反应（报告、认可、虚假信息识别）关联起来。
• 使用散点图和反应对比，可视化定向、意识形态反应与分裂性之间的关系。
• 部署一个公开系统（http://www.socially-divisive-ads.dcc.ufmg.br/），用于展示广告及其目标人群的人口统计特征，以增强透明度。

实验结果

研究问题

• RQ1 IRA 广告的内容分裂性如何，以不同政治意识形态群体的反应差异为衡量标准？
• RQ2 基于点击率和受众选择中的人口统计偏差，这些具有社会分裂性的广告在多大程度上实现了有效定向？
• RQ3 Facebook 广告 API 的哪些功能使得此类精准、隐蔽的分裂性活动得以构建和部署？
• RQ4 目标受众在多大程度上表现出较低的报告意愿、虚假信息识别能力或对广告的不认可倾向？
• RQ5 平台层面的干预措施（例如人工检查、点击率阈值）在多大程度上可降低未来类似滥用的风险？

主要发现

• IRA 广告的点击率（CTR）约为普通 Facebook 广告的 10 倍，表明其定向极为精准有效。
• 目标人群报告广告的意愿显著低于一般人群，表明其具有隐蔽覆盖的特性。
• 与非目标人群相比，目标人群对广告的认可度更高，表明其对分裂性信息更具接受度。
• 虽然定向与虚假信息识别之间无显著相关性，但目标群体识别虚假信息的倾向更低。
• Facebook 广告 API 的建议工具使恶意广告商能够高精度识别并针对敏感兴趣群体（如“黑人意识运动”）进行投放。
• 本研究提供了证据，表明针对敏感话题下狭窄的身份群体进行定向的广告更可能引发分裂，应优先进行人工审查。