[논문 리뷰] Coordinating Narratives and the Capitol Riots on Parler

Lynnette Hui Xian Ng, Iain J. Cruickshank외 1명|arXiv (Cornell University)|2021. 09. 02.

Misinformation and Its Impacts참고 문헌 17인용 수 7

한 줄 요약

이 논문은 1월 6일 캄프러스 폭동 이전에 Parler에서 조직적인 허위정보 네트워크를 드러내기 위해 텍스트 기반의 협력 감지 방법을 제안한다. 텍스트 유사도와 사용자-내용 그래프를 통해 사용자 간 협력 네트워크를 구성함으로써, 군인, 애국자, QAnon의 세 가지 영향력 있는 사용자 클러스터를 식별한다. 이들의 협력 메시징은 선거 부정설을 확산시켰으며, QAnon 사용자들이 가장 높은 영향력과 참여도를 보였다.

ABSTRACT

Coordinated disinformation campaigns are used to influence social media users, potentially leading to offline violence. In this study, we introduce a general methodology to uncover coordinated messaging through analysis of user parleys on Parler. The proposed method constructs a user-to-user coordination network graph induced by a user-to-text graph and a text-to-text similarity graph. The text-to-text graph is constructed based on the textual similarity of Parler posts. We study three influential groups of users in the 6 January 2020 Capitol riots and detect networks of coordinated user clusters that are all posting similar textual content in support of different disinformation narratives related to the U.S. 2020 elections.

연구 동기 및 목표

• 1월 6일 캄프러스 폭동 기간 동안 Parler에서 허위정보를 확산시키는 핵심 인물들을 특정하기 위해.
• 명시적인 네트워크 링크에 의존하지 않고도 사용자 간 협력 메시징을 탐지하기 위해.
• 자기 자신을 군인, 애국자, QAnon로 식별한 사용자들이 허위정보 서사를 어떻게 형성하고 확산시켰는지 분석하기 위해.
• 텍스트 유사도를 통해 협력 사용자 핵심 클러스터를 규명하는 확장 가능한 방법을 개발하기 위해.
• 실제 폭력으로 이어질 수 있는 조직적인 온라인 캠페인을 조기에 탐지하기 위해 지원하기 위해.

제안 방법

• Parler 게시물에서 사용자-내용 그래프를 구성하여 사용자와 그들의 콘텐츠를 매핑하기 위해.
• NLP 기법을 사용하여 텍스트 간 유사도 그래프를 구축하여 의미적으로 유사한 게시물을 식별하기 위해.
• 텍스트 유사도 그래프를 중개자로 삼아 유사한 콘텐츠를 게재한 사용자 간에 연결함으로써 사용자-사용자 협력 네트워크를 유도하기 위해.
• 네트워크 분석을 적용하여 텍스트 협력도가 높은 사용자 클러스터를 밀도 있는 부분그래프로 탐지하기 위해.
• 도수 중심성과 링크 강도를 활용하여 협력 네트워크 내 핵심 인물과 영향력 있는 클러스터를 식별하기 위해.
• 임의의 링크 가중치 임계값을 피하는 필터링 기법을 적용하여 핵심 협력 구조에 집중하기 위해.

실험 결과

연구 질문

• RQ1 Parler에서 2020년 미국 선거와 관련된 허위정보 서사 확산에 가장 영향력이 큰 사용자 그룹은 무엇인가?
• RQ2 명시적인 사용자 간 네트워크 연결이 약한 소셜 미디어 플랫폼인 Parler와 같이, 협력 메시징은 어떻게 탐지할 수 있는가?
• RQ3 Parler에서 협력 허위정보 행위자와 일반 사용자 간의 텍스트 및 행동 패턴은 무엇으로 다를까?
• RQ4 자기 자신을 군인, 애국자, QAnon로 식별한 사용자들이 허위정보 콘텐츠를 동기화하여 게재하는 정도는 어느 정도인가?
• RQ5 유도된 사용자-사용자 협력 네트워크가 협력 행위자의 핵심 클러스터를 어떻게 드러내는가?

주요 결과

• QAnon 사용자들은 평균 사용자보다 훨씬 더 많은 노출 수를 기록했으며, 그들의 게시물은 평균보다 유의미하게 더 많은 인게이지먼트를 확보했다.
• 군인 및 애국자 사용자들도 높은 영향력을 보였으며, 일반 사용자 게시물보다 더 넓게 공유되었다.
• 군인, 애국자, QAnon의 세 그룹은 선거 부정설과 'Stop the Steal' 서사를 자주 유사하게 게재함으로써 강력한 텍스트 협력을 보였다.
• 유도된 사용자-사용자 협력 네트워크는 특히 2020년 선거 개표와 트럼프의 재선 주장 주변에서 일치하는 허위정보 콘텐츠를 게재한 사용자들의 명확한 클러스터를 드러냈다.
• 이 방법은 복잡한 네트워크를 핵심 협력 구조로 단순화하여, 임의의 링크 임계값에 의존하지 않고도 영향력 있는 인물을 식별하는 데 성공했다.
• 연구 결과, 신분 기반 협력이 허위정보 서사 확산에 널리 퍼져 있음을 발견하여, 신분 기반 협력이 허위정보 확산에 기여하는 것으로 나타났다.