[논문 리뷰] The Fake News Spreading Plague: Was it Preventable?

Eni Mustafaraj, Panagiotis Metaxas|arXiv (Cornell University)|2017. 03. 20.

Misinformation and Its Impacts참고 문헌 5인용 수 36

한 줄 요약

이 논문은 2010년 민주당 상원 후보 마바르타 코클리에 대한 가짜 뉴스를 퍼뜨린 트위터 폭탄 사건을 분석하여, 소셜 미디어에서 가짜 뉴스 캠페인을 전파하는 체계적인 방법론을 드러낸다. 이는 2016년 미국 선거로 이어지는 이러한 기법의 진화를 추적하며, 페이스북과 알고리즘 기반 콘텐츠 정렬이 재정적 동기를 가진 가짜 뉴스를 가능하게 했음을 보여주며, 사회기술적 플랫폼의 취약성에 대응하기 위해 더 큰 연구 영향력이 필요하다고 주장한다.

ABSTRACT

In 2010, a paper entitled "From Obscurity to Prominence in Minutes: Political Speech and Real-time search" won the Best Paper Prize of the Web Science 2010 Conference. Among its findings were the discovery and documentation of what was termed a "Twitter-bomb", an organized effort to spread misinformation about the democratic candidate Martha Coakley through anonymous Twitter accounts. In this paper, after summarizing the details of that event, we outline the recipe of how social networks are used to spread misinformation. One of the most important steps in such a recipe is the "infiltration" of a community of users who are already engaged in conversations about a topic, to use them as organic spreaders of misinformation in their extended subnetworks. Then, we take this misinformation spreading recipe and indicate how it was successfully used to spread fake news during the 2016 U.S. Presidential Election. The main differences between the scenarios are the use of Facebook instead of Twitter, and the respective motivations (in 2010: political influence; in 2016: financial benefit through online advertising). After situating these events in the broader context of exploiting the Web, we seize this opportunity to address limitations of the reach of research findings and to start a conversation about how communities of researchers can increase their impact on real-world societal issues.

연구 동기 및 목표

• 2010년 마사 코클리 상원 후보에 대한 조작된 가짜 뉴스 캠페인의 메커니즘을 기록하고 체계화하기.
• 2016년 미국 대통령 선거에서 페이스북이 인간의 콘텐츠 정렬을 알고리즘으로 대체함으로써 가짜 뉴스가 널리 퍼질 수 있었던 기법의 진화를 추적하기.
• 특히 비공개 그룹과 초기 단계의 가짜 뉴스 확산을 다룰 수 있는 연구자들의 페이스북 데이터 접근성의 한계를 부각하기.
• 페이스북, 구글, 트위터와 같은 플랫폼에서 콘텐츠를 모니터링할 때 인간과 알고리즘의 역할 간 균형을 질문하기.
• 가짜 뉴스와 플랫폼 거버넌스와 같은 실제 사회 문제를 해결하기 위해 연구의 영향력을 강화할 것을 주장하기.

제안 방법

• 2010년 매사추세츠 상원 선거 기간 동안 '코클리'와 '브라운' 키워드를 포함한 실시간 트위터 데이터를 수집하였다.
• 138분 동안 9개의 신규로 생성된 익명 트위터 계정에서 995개의 트윗을 식별하고 분석하였으며, 이는 모두 동일한 위조 웹사이트를 홍보하기 위한 것이었다.
• 답글 트윗을 받은 사용자의 재트윗 및 팔로워 네트워크 분석을 통해 가짜 뉴스의 확산을 추적하였다.
• 트위터 API 데이터와 TwitterTrails, Truthy와 같은 도구를 사용하여 뉴스 전파를 모니터링하고 사건의 일련의 흐름을 재구성하였다.
• 2016년 페이스북의 트렌딩 뉴스 알고리즘에서 인간 정렬에서 머신러닝 기반으로의 전환을 맵핑하여 가짜 뉴스의 급격한 확산과 연결지었다.
• 후속 조치로 제3자 fact-checkers를 통한 '불확실함' 레이블 도입과 공유 전 사용자 경고 프롬프트 도입을 평가하였다.

실험 결과

연구 질문

• RQ1 2010년 트위터 폭탄 캠페인은 어떻게 실행되었으며, 어떤 기술적 및 사회적 메커니즘이 그 빠른 확산을 가능하게 했는가?
• RQ2 소셜 미디어 플랫폼에서 가짜 뉴스를 반복적으로 퍼뜨리는 데 핵심이 되는 구성 요소는 무엇인가?
• RQ3 2016년 페이스북의 트렌딩 뉴스 기능에서 인간 편집자가 알고리즘 기반으로 대체된 것이 가짜 뉴스의 확산에 어떤 영향을 미쳤는가?
• RQ4 초기 경고가 있었음에도 불구하고 연구자들이 2016년 가짜 뉴스 유행을 적시에 탐지하고 대응하지 못한 이유는 무엇인가?
• RQ5 대규모 사회기술적 플랫폼인 페이스북과 트위터에서 콘텐츠를 모니터링할 때 인간 감시와 알고리즘 시스템이 수행해야 할 역할은 무엇인가?

주요 결과

• 2010년 트위터 폭탄은 9개의 익명 계정이 138분 동안 573명의 사용자에게 929개의 답글 트윗을 보내며, 모두 동일한 위조 웹사이트를 홍보하였다.
• 수신자 96%는 이전 4시간 이내에 매사추세츠 상원 선거를 활발히 논의한 바가 있었으며, 이는 정확한 타겟팅이 이루어졌음을 시사한다.
• 수신자 중 25%인 143명이 메시지를 재트윗하여 유기적인 네트워크 확산을 통해 약 61,732명의 사용자에게 가짜 뉴스가 노출되었다.
• 이 캠페인은 기존 사용자 참여와 네트워크 구조를 활용하여 성공했으며, 신규 계정이 팔로워를 확보할 필요 없이 답글 트윗을 통해 영향력을 행사할 수 있도록 했다.
• 2016년 8월 페이스북의 트렌딩 뉴스 알고리즘에서 인간 정렬에서 머신러닝 기반으로의 전환은 가짜 뉴스가 바이러스성 확산을 이루는 데 기여했으며, 뷰저의 보고서에 의해 입증되었다.
• 불확실함 레이블과 공유 경고를 도입했음에도 불구하고, 페이스북은 여전히 사용자가 확인된 내용을 공유할 수 있도록 허용하여 현재의 대응 조치의 효과를 제한하고 있다.