[논문 리뷰] On Microtargeting Socially Divisive Ads: A Case Study of Russia-Linked Ad Campaigns on Facebook

Filipe Nunes Ribeiro, Koustuv Saha외 7명|MPG.PuRe (Max Planck Society)|2018. 08. 28.

Misinformation and Its Impacts참고 문헌 18인용 수 23

한 줄 요약

이 연구는 러시아 연루된 행위자가 2016년 미국 선거를 앞두고 페이스북 광고 타겟팅 시스템을 사용해 분열적 정치 콘텐츠를 미세 타겟팅한 방식을 조사한다. 설문 조사 데이터와 광고 타겟팅 메타데이터를 분석한 결과, 이러한 광고는 일반 광고 대비 10배 높은 클릭률(CRT)을 기록해 매우 효과적이었으며, 이데올로기적·인종적으로 소외된 집단에게 정확히 향해 있어 거짓 정보에 동의하거나 믿거나 잘못된 정보를 신고하지 않을 가능성이 더 높았다. 이는 소셜 미디어 광고 플랫폼의 체계적 취약성을 드러낸다.

ABSTRACT

Targeted advertising is meant to improve the efficiency of matching advertisers to their customers. However, targeted advertising can also be abused by malicious advertisers to efficiently reach people susceptible to false stories, stoke grievances, and incite social conflict. Since targeted ads are not seen by non-targeted and non-vulnerable people, malicious ads are likely to go unreported and their effects undetected. This work examines a specific case of malicious advertising, exploring the extent to which political ads from the Russian Intelligence Research Agency (IRA) run prior to 2016 U.S. elections exploited Facebook's targeted advertising infrastructure to efficiently target ads on divisive or polarizing topics (e.g., immigration, race-based policing) at vulnerable sub-populations. In particular, we do the following: (a) We conduct U.S. census-representative surveys to characterize how users with different political ideologies report, approve, and perceive truth in the content of the IRA ads. Our surveys show that many ads are "divisive": they elicit very different reactions from people belonging to different socially salient groups. (b) We characterize how these divisive ads are targeted to sub-populations that feel particularly aggrieved by the status quo. Our findings support existing calls for greater transparency of content and targeting of political ads. (c) We particularly focus on how the Facebook ad API facilitates such targeting. We show how the enormous amount of personal data Facebook aggregates about users and makes available to advertisers enables such malicious targeting.

연구 동기 및 목표

• 악성 행위자가 2016년 미국 선거를 앞두고 페이스북의 타겟팅 광고 시스템을 악용해 사회적으로 분열적인 콘텐츠를 확산시킨 방식을 조사하기 위해.
• 리버럴과 컨servative 집단 간 반응의 차이를 측정해 IRA가 운영하는 광고의 이데올로기적 분열 정도를 평가하기 위해.
• 광고 타겟팅의 효과성과 인구 통계적 편향을 평가하며, 특히 누가 선택되었는지와 그 이유를 중심으로 분석하기 위해.
• 페이스북 광고 API와 타겟팅 추천 도구가 어떻게 정교하고 은밀한 방식으로 취약한 인구 집단에 도달할 수 있었는지 분석하기 위해.
• 타겟팅 수식과 클릭률 기준을 바탕으로 광고 투명성 향상 및 자동 검사 시스템을 도입할 것을 제안하기 위해.

제안 방법

• 미국의 국가 인구 조사 대응 설문 조사로 리버럴 및 컨servative 집단에서 IRA 광고의 보고, 승인, 진실 인식 정도를 측정하기 위해.
• IRA 광고의 클릭률(CRT)을 계산하고 일반 페이스북 광고와 비교해 타겟팅 효과를 평가하기 위해.
• 페이스북 광고 API의 인구 통계 및 관심 기반 타겟팅 수식을 분석하며, '블랙 컨시우스니스 무브먼트'와 '치카노 무브먼트'와 같은 민감한 속성에 중점을 두기 위해.
• 타겟팅된 청중의 인구 통계적 특성과 반응(보고, 승인, 거짓 정보 식별) 간의 상관관계 분석을 수행하기 위해.
• 산점도와 반응 비교를 통해 타겟팅, 이데올로기적 반응, 분열 정도 간의 관계를 시각화하기 위해.
• 투명성 확보를 위해 광고와 그 타겟팅 인구 통계를 표시하는 공개 시스템(http://www.socially-divisive-ads.dcc.ufmg.br/)을 구축하기 위해.

실험 결과

연구 질문

• RQ1 정치 이념에 따라 반응이 다름에 따라 IRA 광고의 콘텐츠가 얼마나 분열적인가?
• RQ2 클릭률과 청중 선택에서의 인구 통계적 편향에 기반해 분열적 광고가 얼마나 효과적으로 타겟팅되었는가?
• RQ3 페이스북 광고 API의 어떤 기능이 이러한 정교하고 분열적인 캠페인의 제작과 배포를 가능하게 했는가?
• RQ4 타겟팅된 청중이 광고를 보고하거나 거짓 정보를 식별하거나 기피하는 경향이 얼마나 낮은가?
• RQ5 플랫폼 수준의 개입(예: 수동 검토, 클릭률 기준)을 통해 향후 유사한 악용을 얼마나 줄일 수 있는가?

주요 결과

• IRA 광고는 일반 페이스북 광고 대비 약 10배 높은 클릭률(CRT)을 기록해 매우 효과적인 타겟팅을 보였다.
• 타겟팅된 청중은 일반 인구에 비해 광고를 보고할 가능성이 유의미하게 낮아 은밀한 도달을 의미한다.
• 타겟팅된 청중은 비타겟팅 집단보다 광고에 대한 승인 점수가 더 높아 분열적 메시지에 더 강한 수용성을 보였다.
• 타겟팅과 거짓 정보 식별 간 유의미한 상관관계는 없었지만, 타겟팅된 집단은 거짓 정보를 식별할 가능성이 낮았다.
• 페이스북 광고 API의 추천 도구를 활용해 악성 광고주가 '블랙 컨시우스니스 무브먼트'와 같은 민감한 관심 그룹을 높은 정밀도로 식별하고 타겟팅할 수 있었다.
• 이 연구는 민감한 주제에 대해 신분 기반의 좁은 인구 통계를 대상으로 하는 광고가 더 분열적일 가능성이 높으며, 수동 검토 대상으로 우선시되어야 한다는 증거를 제공한다.