[논문 리뷰] Propaganda and Misinformation on Facebook and Twitter during the Russian Invasion of Ukraine

Francesco Pierri, Luca Luceri외 2명|arXiv (Cornell University)|2022. 12. 01.

Misinformation and Its Impacts인용 수 12

한 줄 요약

이 연구는 2022년 러시아-우크라이나 전쟁의 첫 네 달 동안 페이스북과 트위터에서 러시아 선전 및 신뢰도가 낮은 콘텐츠의 확산을 분석하기 위해 2,000만 개의 페이스북 게시물과 2억 5,000만 건의 트윗을 포함한 대규모 데이터셋을 사용한다. 연구 결과, 문제 콘텐츠의 8–15%만 제거되었으며, 주로 검증된 오른쪽 성향 계정인 슈퍼스피더들이 상호작용의 60–80%를 차지했고, 플랫폼의 개입과 금지 조치에도 불구하고 가짜 정보는 지속되었다.

ABSTRACT

Online social media represent an oftentimes unique source of information, and having access to reliable and unbiased content is crucial, especially during crises and contentious events. We study the spread of propaganda and misinformation that circulated on Facebook and Twitter during the first few months of the Russia-Ukraine conflict. By leveraging two large datasets of millions of social media posts, we estimate the prevalence of Russian propaganda and low-credibility content on the two platforms, describing temporal patterns and highlighting the disproportionate role played by superspreaders in amplifying unreliable content. We infer the political leaning of Facebook pages and Twitter users sharing propaganda and misinformation, and observe they tend to be more right-leaning than the average. By estimating the amount of content moderated by the two platforms, we show that only about 8-15% of the posts and tweets sharing links to Russian propaganda or untrustworthy sources were removed. Overall, our findings show that Facebook and Twitter are still vulnerable to abuse, especially during crises: we highlight the need to urgently address this issue to preserve the integrity of online conversations.

연구 동기 및 목표

• 러시아-우크라이나 전쟁의 초기 단계 동안 페이스북과 트위터에서 러시아 선전 및 신뢰도가 낮은 콘텐츠의 확산 정도를 평가하기 위해.
• 가짜 정보 및 선전을 확산시키는 데 핵심적인 역할을 하는 슈퍼스피더의 역할을 특정하고 분석하기 위해.
• 신뢰할 수 없는 콘텐츠를 공유하는 계정의 정치적 성향을 추론하기 위해.
• 플랫폼에서 문제 콘텐츠의 링크에 대한 콘텐츠 조정 수준을 추정하기 위해.
• 글로벌 위기 상황에서 소셜 미디어 플랫폼의 체계적 취약성을 부각하기 위해.

제안 방법

• 2022년 2월에서 5월 사이에 공개 API를 통해 2,000만 개의 페이스북 게시물과 2억 5,000만 건 이상의 트윗을 포함한 대규모 데이터셋을 수집하였다.
• 기존의 미디어 신뢰도 순위와 원거리 감독 기법을 사용하여 소스의 신뢰도 기반으로 콘텐츠를 분류하였다.
• 알려진 미디어 기관 목록과 명성 데이터베이스를 통해 러시아 정부 소속 및 저신뢰도 소스를 식별하였다.
• 시간에 따라 재공유(페이스북) 및 재트윗(트위터) 수를 측정하여 콘텐츠의 확산을 추적하였다.
• 자연어 처리 기반 모델과 플랫폼 평균 사용자와의 비교 분석을 통해 사용자 및 페이지의 정치적 성향을 추론하였다.
• 플랫폼 정책 로그와 데이터 액세스 자료를 비교하여 플랫폼의 조정 수준을 추정하였다.

실험 결과

연구 질문

• RQ1 러시아의 우크라이나 침공 기간 동안 페이스북과 트위터에서 신뢰도가 낮은 콘텐츠와 러시아 선전의 확산 정도는 어떠한가?
• RQ2 러시아 선전과 신뢰도가 낮은 콘텐츠를 확산시킨 슈퍼스피더는 누구인가?
• RQ3 러시아 선전과 신뢰도가 낮은 콘텐츠를 공유하는 계정의 정치적 성향은 무엇으로 추론되는가?
• RQ4 플랫폼에서 러시아 선전과 신뢰도가 낮은 콘텐츠의 어느 정도가 제거되었는가?

주요 결과

• 러시아 선전이나 저신뢰도 소스의 링크를 공유하는 페이스북 게시물과 트윗 중 8–15%만 플랫폼에서 제거되어 조치의 효율성이 낮음을 시사한다.
• 러시아 선전의 확산은 침공 이후 플랫폼의 금지 조치와 제재로 감소했지만, 완전히 사라지지는 않았다.
• 저신뢰도 콘텐츠는 연구 기간 내내 일관된 수준의 상호작용을 유지했으며, 재공유 및 재트윗 수가 안정적으로 유지되었다.
• 검증된 영향력 있는 페이스북 페이지와 트위터 사용자로 구성된 소수의 슈퍼스피더들이 문제 콘텐츠에 대한 전체 상호작용의 60–80%를 차지했다.
• 선전 및 오락성 정보를 공유하는 계정은 플랫폼 평균 사용자에 비해 상당히 오른쪽 성향일 가능성이 높았다.
• 이 연구는 페이스북과 트위터의 체계적 취약성을 부각하며, 개입 노력에도 불구하고 글로벌 위기 상황에서 플랫폼이 여전히 악용의 위험에 노출되어 있음을 보여준다.