[論文レビュー] On Microtargeting Socially Divisive Ads: A Case Study of Russia-Linked Ad Campaigns on Facebook

Filipe Nunes Ribeiro, Koustuv Saha+7 more|MPG.PuRe (Max Planck Society)|Aug 28, 2018

Misinformation and Its Impacts参考文献 18被引用数 23

ひとこと要約

本研究は、2016年米国大統領選挙の直前、ロシア関連の人物がFacebookの広告ターゲティングシステムをどのように利用して分断的で政治的なコンテンツをミクロターゲティングしたかを調査している。アンケートデータと広告ターゲティングメタデータを分析した結果、これらの広告は通常の広告と比べて10倍高いCTR（クリック率）を示し、有効であった。特に、イデオロギー的・人種的マイノリティ層を的確に標的にしたが、それらのグループは虚偽の主張を承認しやすく、信じやすく、報告しにくい傾向にあり、ソーシャルメディア広告プラットフォームにおける構造的脆弱性が明らかになった。

ABSTRACT

Targeted advertising is meant to improve the efficiency of matching advertisers to their customers. However, targeted advertising can also be abused by malicious advertisers to efficiently reach people susceptible to false stories, stoke grievances, and incite social conflict. Since targeted ads are not seen by non-targeted and non-vulnerable people, malicious ads are likely to go unreported and their effects undetected. This work examines a specific case of malicious advertising, exploring the extent to which political ads from the Russian Intelligence Research Agency (IRA) run prior to 2016 U.S. elections exploited Facebook's targeted advertising infrastructure to efficiently target ads on divisive or polarizing topics (e.g., immigration, race-based policing) at vulnerable sub-populations. In particular, we do the following: (a) We conduct U.S. census-representative surveys to characterize how users with different political ideologies report, approve, and perceive truth in the content of the IRA ads. Our surveys show that many ads are "divisive": they elicit very different reactions from people belonging to different socially salient groups. (b) We characterize how these divisive ads are targeted to sub-populations that feel particularly aggrieved by the status quo. Our findings support existing calls for greater transparency of content and targeting of political ads. (c) We particularly focus on how the Facebook ad API facilitates such targeting. We show how the enormous amount of personal data Facebook aggregates about users and makes available to advertisers enables such malicious targeting.

研究の動機と目的

• 2016年米国大統領選挙の直前、悪意ある行動者がFacebookのターゲティング広告システムを悪用して社会的に分断的なコンテンツを拡散した方法を調査すること。
• リベラル派とコンservative派の政治的グループ間での反応の差を測定することで、IRA（インターネット研究機関）が運営する広告のイデオロギー的分断性を評価すること。
• 広告ターゲティングの有効性とデモグラフィックバイアスを評価し、特に誰が選択されたか、なぜそうしたかに焦点を当てる。
• Facebookの広告APIとターゲティング提案ツールが、脆弱な集団に正確かつ静かに到達できるようにした仕組みを分析すること。
• ターゲティング式とCTRのしきい値に基づいた、広告の透明性向上と自動検査メカニズムの導入を提言すること。

提案手法

• リーディング・アメリカン・センサスに準拠したアンケート調査を実施し、リベラル層とコンservative層におけるIRA広告の報告、承認、真偽認識の度合いを測定した。
• IRA広告のクリック率（CTR）を計算し、通常のFacebook広告と比較することで、ターゲティングの有効性を評価した。
• Facebook広告APIにおけるデモグラフィックおよび関心ベースのターゲティング式を分析し、特に「ブラック・コンシャスネス・ムーブメント」や「チカーノ・ムーブメント」のような感受性の高い属性に注目した。
• 相関分析を用いて、ターゲット集団のデモグラフィック特性と反応（報告、承認、虚偽主張の識別）との関係を特定した。
• 散布図と反応比較を用いて、ターゲティング、イデオロギー的反応、分断性の関係を可視化した。
• 透明性を高めるために、公開システム（http://www.socially-divisive-ads.dcc.ufmg.br/）を導入し、広告とそのターゲットデモグラフィーを表示した。

実験結果

リサーチクエスチョン

• RQ1 IRA広告のコンテンツは、政治的イデオロギーごとの反応の差異によって、どれほど分断的であると測定できるか？
• RQ2 CTRと集団選択におけるデモグラフィックバイアスに基づいて、社会的に分断的な広告はどれほど効果的にターゲティングされたか？
• RQ3 Facebookの広告APIのどの特徴が、このようなターゲティングされやすく、分断的なキャンペーンの構築と展開を可能にしたか？
• RQ4 ターゲット集団は、広告を報告する傾向が低く、虚偽の主張を識別する傾向が低く、広告に反対する傾向が弱いとどれほど示されたか？
• RQ5 将来的な同種の悪用を防ぐために、プラットフォームレベルの干渉（例：手動検査、CTRしきい値）はどの程度有効であるか？

主な発見

• IRA広告は、通常のFacebook広告と比べてクリック率（CTR）が約10倍高く、非常に効果的なターゲティングが実現していた。
• ターゲット集団は一般集団と比べて、広告を報告する可能性が著しく低く、静かに到達したと示唆される。
• ターゲット集団は非ターゲット集団と比べて広告承認度が高く、分断的メッセージに対してより受け入れやすい傾向にあった。
• ターゲティングと虚偽主張の識別との間に有意な相関は認められなかったが、ターゲット集団は虚偽主張を識別する傾向が低かった。
• Facebookの広告APIの提案ツールを悪用することで、悪意ある広告主は「ブラック・コンシャスネス・ムーブメント」などの感受性の高い関心グループを高精度に特定・ターゲティングできた。
• 本研究は、感受性の高いトピックや、アイデンティティに基づく狭いデモグラフィックに焦点を当てた広告が、より分断的になりやすく、手動検査の優先対象とすべきであるという証拠を提供した。