[논문 리뷰] A Synchronized Action Framework for Responsible Detection of Coordination on Social Media

Thomas Magelinski, Lynnette Hui Xian Ng외 1명|arXiv (Cornell University)|2021. 05. 16.

Misinformation and Its Impacts참고 문헌 18인용 수 7

한 줄 요약

이 논문은 다중 시각 네트워크를 분석하여 사회적 미디어에서 조율된 행동을 책임감 있게 탐지하기 위한 동기화된 행동 프레임워크를 제안한다. 이는 사용자 간의 해시태그, URL, 언급 사용과 같은 동기화된 행동의 다중 시각 네트워크를 분석함으로써 이루어진다. 린아메리카 투표 운동에 적용된 결과, 세 개의 조율된 캠페인이 밝혀졌으며, 그 중 하나는 특정 지리적 지역을 겨냥해 조율된 방식으로 시위 논리를 확산시키는 복잡하고 은밀한 사용자 네트워크를 포함한다.

ABSTRACT

The study of coordinated manipulation of conversations on social media has become more prevalent as social media's role in amplifying misinformation, hate, and polarization has come under scrutiny. We discuss the implications of successful coordination detection algorithms based on shifts of power, and consider how responsible coordination detection may be carried out through synchronized action. We then propose a Synchronized Action Framework for detection of automated coordination through construction and analysis of multi-view networks. We validate our framework by examining the Reopen America conversation on Twitter, discovering three coordinated campaigns. We further investigate covert coordination surrounding the protests and find the task to be far more complex than examples seen in prior work, demonstrating the need for our multi-view approach. A cluster of suspicious users is identified and the activity of three members is detailed. These users amplify protest messages using the same hashtags at very similar times, though they all focus on different states. Through this analysis, we emphasize both the potential usefulness of coordination detection algorithms in investigating amplification, and the need for careful and responsible deployment of such tools.

연구 동기 및 목표

• 정상적인 인간의 조율 행동을 잘못 대상으로 삼을 수 있는 조율 탐지 도구의 윤리적 리스크를 해결하기 위해.
• 단일 행동 또는 단일 시각 분석에 의존하지 않고, 책임감 있는 다중 시각 접근법을 개발하여 소셜 미디어에서의 조율된 행동을 탐지하기 위해.
• 실제 데이터를 기반으로 프레임워크를 검증하고, 특히 린아메리카 시위 기간 동안 복잡하고 은밀한 조율 행동을 탐지하기 위해.
• 해시태그 및 언급 사용의 시간적 일치와 같은 동기화된 행동이, 사용자가 개별적으로 진실성 있는 것처럼 보일지라도 조율된 캠페인을 드러낼 수 있음을 입증하기 위해.
• 거짓 경고를 줄이고 미묘한 조율된 영향 작동을 개선하기 위해 다중 행동 및 시간 동기화 분석의 중요성을 강조하기 위해.

제안 방법

• 노드가 사용자를 나타내고, 동일한 시간대에 동일한 행동(예: 유사한 시간에 동일한 해시태그 사용)이 여러 행동 차원에서 발생할 경우 이를 간선으로 연결하는 다중 시각 네트워크를 구축한다.
• 여러 행동 유형에서 일정한 시간 창 내에서 동일하거나 매우 유사한 행동을 보이는 사용자를 식별하는 동기화된 행동 탐지 메커니즘을 사용한다.
• 인기 있는 행동(예: 유행하는 해시태그)이지만 조율되지 않은 경우 거짓 경고를 줄이기 위해 가중치 부여 기법을 적용한다. 이는 조율된 행동의 구조를 유지한다.
• 해시태그 사용, URL 공유, 언급 활동 등의 다중 행동 유형을 통합하여 단일 다중 시각 네트워크를 구성하고, 통합 분석을 수행한다.
• 다중 시각 네트워크에 클러스터링 기법을 적용하여, 여러 차원에서 동기화된 행동을 보이는 의심스러운 사용자 집단을 식별한다.
• 린아메리카 시위 기간 동안의 대규모 트위터 데이터셋을 사용하여 프레임워크를 검증하고, 조율된 행동의 시간적 일치성과 네트워크 구조를 중점적으로 분석한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 정상적인 인간의 조율 행동을 해치지 않으면서 조율 탐지 작업을 책임감 있게 수행할 수 있는가?
• RQ2 단일 시각 네트워크 분석은 소셜 미디어에서 복잡하고 은밀한 조율 행동을 얼마나 잘 탐지하지 못하는가?
• RQ3 해시태그, 언급, URL 등 여러 행동 차원에서의 동기화된 행동은 단일 시각 분석보다 조율된 캠페인 탐지에 얼마나 더 효과적인가?
• RQ4 伝통적 방법으로는 탐지하기 어려운 조율 캠페인의 구조적 및 시간적 특성은 무엇인가?
• RQ5 실제 시위 관련 대화에서 다중 시각 네트워크 분석은 의심스러운 사용자 클러스터 식별에 어떻게 기여하는가?

주요 결과

• 동기화된 행동 프레임워크는 린아메리카 트위터 대화에서 세 개의 조율된 캠페인을 성공적으로 탐지했으며, 그 중 하나는 특정 지리적 지역을 겨냥해 조율된 방식으로 시위 논리를 확산시키는 은밀한 사용자 네트워크를 포함한다.
• 프레임워크는 거의 동일한 시간에 동일한 해시태그를 사용하고 동일한 계정을 언급하는 의심스러운 사용자 집단을 식별했다. 이들은 각각 다른 미국 주를 대상으로 하였다.
• 린아메리카 시위 기간 동안의 은밀한 조율은 이전에 연구된 템플릿 기반 캠페인보다 훨씬 더 복잡하며, 이를 탐지하기 위해 다중 시각 분석이 필수적이다.
• 고정된 윈도우 방식의 네트워크 구축은 균일한 행동 분포 하에서 최대 50퍼센트의 잠재적 연결을 놓칠 수 있다. 이는 동기화된 행동 탐지의 필요성을 강조한다.
• 인기 있는 행동을 낮게 가중치를 주는 가중치 부여 기법은 거짓 경고를 줄이지만 네트워크 구조를 흐리게 하므로, 향후 설계에서 신중히 조율해야 할 상충 관계임을 시사한다.
• 프레임워크의 다중 시각 접근법은 단일 시각 분석보다 모호성을 줄여주며, 예를 들어 동일한 해시태그를 사용하는 대립적 의견까지 잘못 분류하는 것을 방지함으로써 탐지 정확도를 향상시킨다.