[논문 리뷰] How does Twitter account moderation work? Dynamics of account creation and suspension on Twitter during major geopolitical events

Francesco Pierri, Luca Luceri외 2명|arXiv (Cornell University)|2022. 09. 15.

Hate Speech and Cyberbullying Detection참고 문헌 60인용 수 6

한 줄 요약

이 연구는 러시아의 우크라이나 침공과 2022년 프랑스 대선과 같은 주요 지정학적 사건 기간 동안 트위터의 계정 모더레이션을 분석한다. 2억 7,000만 건의 트윗 데이터셋을 활용하여, 스팸성 행동을 보이는 신규 계정(과도한 응답 및 언급 등)이 빠르게 정지되는 것을 확인했으며, 조정된 악성 행위 패턴이 플랫폼의 개입을 유도하는 방식을 규명함으로써 모더레이션 동역학의 투명성을 기여한다.

ABSTRACT

Social media moderation policies are often at the center of public debate, and their implementation and enactment are sometimes surrounded by a veil of mystery. Unsurprisingly, due to limited platform transparency and data access, relatively little research has been devoted to characterizing moderation dynamics, especially in the context of controversial events and the platform activity associated with them. Here, we study the dynamics of account creation and suspension on Twitter during two global political events: Russia's invasion of Ukraine and the 2022 French Presidential election. Leveraging a large-scale dataset of 270M tweets shared by 16M users in multiple languages over several months, we identify peaks of suspicious account creation and suspension, and we characterize behaviours that more frequently lead to account suspension. We show how large numbers of accounts get suspended within days from their creation. Suspended accounts tend to mostly interact with legitimate users, as opposed to other suspicious accounts, often making unwarranted and excessive use of reply and mention features, and predominantly sharing spam and harmful content. While we are only able to speculate about the specific causes leading to a given account suspension, our findings shed light on patterns of platform abuse and subsequent moderation during major events.

연구 동기 및 목표

• 주요 지정학적 사건 기간 동안 트위터의 계정 모더레이션 시스템이 의심스러운 활동 급증에 어떻게 반응하는지 조사하기 위해.
• 특히 신규 생성된 계정에서 관찰되는 계정 정지와 관련된 행동 패턴을 특정하기 위해.
• 후행 API 기반 연구의 한계를 극복하기 위해, 계정 생성 및 정지 동역학에 대한 실시간에 가까운 분석을 제공하기 위해.
• 높은 온라인 활동 기간 동안 악성 행위 패턴과 정지 유도 요인을 규명함으로써 플랫폼 모더레이션의 투명성을 기여하기 위해.
• 민주적 논의에서 플랫폼 개입의 이해를 심화하고 악성 행동의 조기 탐지에 기여하기 위해.

제안 방법

• 두 가지 주요 사건 기간 동안 다국어 사용자 1,600만 명으로부터의 2억 7,000만 건의 공개 트윗을 포함한 대규모 데이터셋을 수집하였다.
• 최소한의 지연으로 계정 생성 및 정지 시간대를 추적하여, 모더레이션 조치의 실시간에 가까운 분석을 가능하게 하였다.
• 과도한 응답 및 언급, 빠른 콘텐츠 공유 등의 행동 이질성을 기반으로 의심스러운 계정을 식별하였다.
• 계정 연령에 대한 상호작용 패턴, 콘텐츠 유형, 시간적 동역학을 분석하여 정지된 계정의 특성을 규명하였다.
• 재현 가능성을 확보하면서 플랫폼 이용 약관을 준수하기 위해 공개 트위터 API 엔드포인트를 사용하여 트윗 ID를 검색하였다.
• 이벤트 일정과의 상관관계를 분석하기 위해 계정 생성 및 정지의 피크를 탐지하기 위해 시간 분석을 적용하였다.

실험 결과

연구 질문

• RQ1 러시아-우크라이나 전쟁과 프랑스 대선과 같은 주요 지정학적 사건 기간 동안 트위터의 계정 생성 및 정지 비율은 어떻게 변화하는가?
• RQ2 플랫폼 활동이 높은 기간 동안 정지된 계정과 정상 사용자 간의 행동 패턴은 무엇으로 구분되는가?
• RQ3 의심스러운 계정은 생성 후 얼마나 빨리 정지되며, 조기에 정지되는 데 영향을 주는 요인은 무엇인가?
• RQ4 정지된 계정이 정상 사용자와의 상호작용을 얼마나 많이 하며, 다른 의심스러운 계정과의 상호작용은 어떤가?
• RQ5 유사한 행동을 보이는 활성화되어 있지만 정지되지 않은 사용자와 비교해 정지된 계정의 특성은 어떻게 다른가?

주요 결과

• 정지된 계정은 대부분 생성 후 며칠 내로 생성되고 정지되어, 트위터의 모더레이션 시스템이 빠르게 감지했음을 시사한다.
• 정지와 강하게 연관된 것은 응답 및 언급 기능의 과도한 사용으로, 자동화되거나 봇 유사 행동임을 시사한다.
• 정지된 계정은 종종 많은 스팸 및 해로운 콘텐츠를 공유했으며, 일반 사용자를 대상으로 하는 경우가 많고 다른 의심스러운 계정을 대상으로 하지는 않았다.
• 계정 생성 및 정지 피크가 주요 사건의 주요 이정표와 겹쳐져 있어, 주목받는 기간 동안 조정된 악성 행위 캠페인이 존재했음을 시사한다.
• 연구에서는 상당수의 정지된 계정이 조정된 행동을 보였음을 관찰했지만, 정확한 감지 메커니즘은 여전히 투명하지 않다.
• 플랫폼의 투명도가 제한되어 있음에도 불구하고, 이 연구는 글로벌 위기 기간 동안 조정된 위조 행위에 대한 체계적인 모더레이션 반응에 대한 경험적 증거를 제공한다.