[논문 리뷰] Exposing Cross-Platform Coordinated Inauthentic Activity in the Run-Up to the 2024 U.S. Election

Federico Cinus, Marco Minici외 2명|arXiv (Cornell University)|2024. 10. 30.

Electoral Systems and Political Participation인용 수 4

한 줄 요약

이 연구는 2024년 미국 선거 기간 동안 X(이전 티커), 페이스북, 테레그램에서 활동하는 다중 플랫폼 협력적 위조 활동(CoIA)을 식별하기 위해 교차 플랫폼 협력 감지 모델을 개발한다. 공유 콘텐츠 및 참여 패턴의 유사성 네트워크를 분석함으로써 러시아 연관 매체, 파벌적 서사, 낮은 신뢰성 콘텐츠의 체계적 홍보가 드러나며, CoIA가 플랫폼을 넘나들며 디스인포메이션을 크게 확산시킨다는 점을 입증한다.

ABSTRACT

Coordinated information operations remain a persistent challenge on social media, despite platform efforts to curb them. While previous research has primarily focused on identifying these operations within individual platforms, this study shows that coordination frequently transcends platform boundaries. Leveraging newly collected data of online conversations related to the 2024 U.S. Election across $\mathbb{X}$ (formerly, Twitter), Facebook, and Telegram, we construct similarity networks to detect coordinated communities exhibiting suspicious sharing behaviors within and across platforms. Proposing an advanced coordination detection model, we reveal evidence of potential foreign interference, with Russian-affiliated media being systematically promoted across Telegram and $\mathbb{X}$. Our analysis also uncovers substantial intra- and cross-platform coordinated inauthentic activity, driving the spread of highly partisan, low-credibility, and conspiratorial content. These findings highlight the urgent need for regulatory measures that extend beyond individual platforms to effectively address the growing challenge of cross-platform coordinated influence campaigns.

연구 동기 및 목표

• 단일 소셜 미디어 플랫폼을 초월하는 증가하는 협력적 위조 활동(CoIA)의 도전에 대응한다. 특히 미국 선거를 배경으로 한다.
• 특정 웹 도메인을 홍보하고 파벌적, 낮은 신뢰성 또는 음모론적 서사를 확산시키는 플랫폼 내 및 플랫폼 간 CoIA 네트워크를 식별한다.
• 협력적 캠페인의 규모와 영향을 평가하기 위해 CoIA의 참여 동역학을 유기적 사용자 활동과 비교한다.
• 협력적 영향 작전의 전반적인 범위를 포괄하기 위해 단일 플랫폼 분석을 넘어서 감지 기술을 발전시킨다.
• 체계적 디스인포메이션 위협에 대응하기 위해 다중 플랫폼 규제 및 기술적 대응의 긴급한 필요성을 부각시킨다.

제안 방법

• X, 페이스북, 테레그램에서 공유 콘텐츠, 해시태그, 링크 사용 기반의 유사성 네트워크를 구축하여 협력적 커뮤니티를 감지한다.
• 동기화된 게재 및 공동 활동 패턴을 식별하는 고급 협력 감지 모델을 적용하여 CoIA를 탐지한다.
• 언어 모델을 활용해 음모론적, 파벌적 또는 낮은 신뢰성 서사를 식별하는 콘텐츠 특성 분석을 수행한다.
• 2024년 미국 선거를 앞두고 수집한 다중 플랫폼 대상의 선거 관련 대화를 대규모로 포함한 데이터셋을 활용한다.
• 웹 도메인 추적 기능을 통합하여 외부 웹사이트, 특히 해외 연계 매체와 연결된 특정 도메인으로의 협력적 유도를 탐지한다.
• 유기적 사용자와의 비교를 통해 협력 계정의 참여 지표(예: 좋아요, 공유, 노출 수)를 분석하여 확산 효과를 평가한다.

Figure 1 . Cross-platform coordination network showing user coordination across four social media networks.

실험 결과

연구 질문

• RQ1 RQ 1: 특정 웹 도메인으로의 트래픽 유도를 목적으로 하는 플랫폼 내 및 플랫폼 간 CoIA를 관찰할 수 있는가? 협력적 계정의 특성은 무엇이며, 어떤 특정 도메인을 홍보하는가?
• RQ2 RQ 2: 특정 서사를 확산하는 CoIA를 관찰할 수 있는가? 협력적 계정의 특성은 무엇이며, 어떤 특정 주제를 강조하는가?
• RQ3 RQ 3: CoIA는 다양한 플랫폼에서 어떤 수준의 참여를 유도하는가? 그리고 유기적 사용자에 비해 어떤가?
• RQ4 RQ 4: 러시아 연계 매체는 다중 플랫폼 CoIA 네트워크에서 어떤 역할을 하는가?
• RQ5 RQ 5: 협력 네트워크는 플랫폼 간 차이를 어떻게 악용하여 음모론적 또는 낮은 신뢰성 콘텐츠를 확산하는가?

주요 결과

• 연구는 테레그램과 X에서 러시아 연계 매체를 홍보하는 다수의 협력 네트워크를 식별하여, 2024년 미국 선거 논의에 대한 체계적 외부 간섭을 입증한다.
• 협력적 위조 활동은 파벌적, 낮은 신뢰성, 음모론적 콘텐츠를 체계적으로 확산시키며, 평탄한 지구 이론, 반유대인 서사, 선거 부정행위 주장 등이 포함된다.
• 트럼프 재판, 러시아-우크라이나 전쟁, 조류인플루엔자, 성경 인용문 등 특정 주제들이 테레그램과 X에서 협력 네트워크를 통해 집중적으로 홍보되었다.
• 협력 계정은 유기적 사용자보다 훨씬 높은 참여도를 기록했으며, 일부 네트워크는 동기화된 게재와 해시태그 협업을 통해 바이럴 영향을 발휘했다.
• 분석 결과, 다중 플랫폼 협력은 단일 플랫폼 감지 시스템의 범위를 초월해 디스인포메이션을 확산시킬 수 있음을 보여준다.
• 연구는 협력 행동이 한 플랫폼에 국한되지 않음을 입증하며, 특히 고감도 정치적 주제에서 X, 페이스북, 테레그램 간 동기화된 활동이 뚜렷하게 관찰되었다.

(a) Telegram