[논문 리뷰] Characterizing Online Engagement with Disinformation and Conspiracies in the 2020 U.S. Presidential Election

Karishma Sharma, Emilio Ferrara외 1명|arXiv (Cornell University)|2021. 07. 17.

Misinformation and Its Impacts참고 문헌 26인용 수 4

한 줄 요약

이 연구는 2020년 6월에서 9월 사이에 수집된 2억 4,200만 건의 선거 관련 트윗을 분석하여, 특히 QAnon 관련 콘텐츠를 포함한 위조정보 및 음모론적 서사의 탐지와 특성 분석을 수행한다. 이는 훈련된 CSI 모델(AUC 0.8, F1 0.76)을 사용한 것이다. 연구 결과, 위조정보 트윗은 신뢰할 수 있는 콘텐츠보다 전파력이 낮지만, QAnon 계정들은 좌익 성향 사용자들과 상당한 상호작용을 보였으며, 2020년 7월 트위터의 금지 조치 이후 해시태그 전략을 변화시키고 기존 계정에 의존함으로써 대응했으며, 회귀 불연속 설계를 통해 통계적으로 유의미한 행동 변화가 확인되었다.

ABSTRACT

Identifying and characterizing disinformation in political discourse on social media is critical to ensure the integrity of elections and democratic processes around the world. Persistent manipulation of social media has resulted in increased concerns regarding the 2020 U.S. Presidential Election, due to its potential to influence individual opinions and social dynamics. In this work, we focus on the identification of distorted facts, in the form of unreliable and conspiratorial narratives in election-related tweets, to characterize discourse manipulation prior to the election. We apply a detection model to separate factual from unreliable (or conspiratorial) claims analyzing a dataset of 242 million election-related tweets. The identified claims are used to investigate targeted topics of disinformation, and conspiracy groups, most notably the far-right QAnon conspiracy group. Further, we characterize account engagements with unreliable and conspiracy tweets, and with the QAnon conspiracy group, by political leaning and tweet types. Finally, using a regression discontinuity design, we investigate whether Twitter's actions to curb QAnon activity on the platform were effective, and how QAnon accounts adapt to Twitter's restrictions.

연구 동기 및 목표

• 트위터에서의 미국 2020년 선거 논의 내 위조정보 및 음모론적 서사의 식별 및 특성 분석.
• 특히 QAnon에서 비롯된 위조정보 및 음모론적 콘텐츠의 영향 범위, 상호작용 패턴, 확산 역학 분석.
• 2020년 7월 트위터의 QAnon 금지 조치가 QAnon 활동에 미친 영향을 분석함으로써 그 효과성 평가.
• 정치 성향, 트윗 유형, 계정 활동이 위조정보 및 음모론 콘텐츠에 대한 상호작용에 미치는 영향 이해.

제안 방법

• 텍스트, 시간적 특성, 계정의 의심스러움 특성을 활용하여 사실성 또는 위조/음모론적 성향 여부를 분류하기 위해 훈련된 CSI(Cross-Source Inference) 모델을 적용.
• 2020년 6월 20일부터 9월 6일까지 수집된 2억 4,200만 건의 선거 관련 트윗 데이터셋을 사용.
• 트위터의 QAnon 금지 조치가 미친 영향을 추정하기 위해 회귀 불연속 설계(RDD)를 활용하여, 개입 일자 주변의 해시태그 사용 변화를 모델링.
• 위조/음모론적 콘텐츠와 신뢰할 수 있는 트윗 캐스케이드의 확산 역학을 비교하기 위해 캐스케이드 폭과 유일한 계정에 도달하는 데 소요된 시간 지표를 사용.
• 보류된 테스트 세트에서 AUC(0.8)와 F1(0.76)를 활용하여 모델 성능을 검증.
• 정치 성향과 트윗 유형에 따른 상호작용 패턴을 분석하여, QAnon이 좌익 성향 계정의 트윗에 대응하여 댓글을 남겨 사용자를 '레드 필'하는 전략적 접근 방식을 취하고 있음을 확인.

실험 결과

연구 질문

• RQ1 미국 2020년 선거를 앞서 트위터에서 널리 퍼진 위조정보 및 음모론적 서사의 유형은 무엇인가?
• RQ2 위조정보 및 음모론 그룹의 영향력과 영향 범위는 계정 상호작용, 정치 성향, 트윗 유형, 확산 역학 측면에서 얼마나 크며, 어떤가?
• RQ3 트위터의 QAnon 금지 조치는 QAnon 활동에 영향을 미쳤으며, 음모론의 확산을 효과적으로 억제했는가?

주요 결과

• CSI 모델은 선거 관련 트윗에서 위조 및 음모론적 주장을 탐지하는 데 AUC 0.8, F1 점수 0.76의 성능을 보였다.
• 가장 두드러진 위조정보 주제로는 우편 투표 부정행위, 코로나19, 블랙 라이브스 매터, 미디어 검열, 정치인에 대한 허위 주장 등이 있었다.
• 위조정보 트윗은 신뢰할 수 있는 트윗보다 전파력이 낮았으며, 유일한 계정에 도달하는 평균 시간이 더 길고, 평균 캐스케이드 폭이 더 작았다.
• 모든 계정의 85.43%(1,040만 명)는 QAnon과 상호작용하지 않았지만, 가장 활동적인 120만 명의 계정 중에서는 이 비율이 34.42%로 감소했다.
• QAnon 계정들은 좌익 성향 사용자들을 대상으로 표적적 댓글을 남겨 '레드 필'하는 전략을 펼치며 영향력을 확장하고 있음을 확인했다.
• 회귀 불연속 설계를 통해 금지 조치 이후 해시태그 사용에 통계적으로 유의미한 변화가 발생했으며, 주로 금지 이전에 생성된 계정들이 지속적인 상호작용을 이끌어내고 있었다.