[논문 리뷰] The Power of Deletions: Ephemeral Astroturfing Attacks on Twitter Trends

Tuğrulcan Elmas, Rebekah Overdorf외 2명|arXiv (Cornell University)|2019. 10. 17.

Spam and Phishing Detection참고 문헌 42인용 수 4

한 줄 요약

이 논문은 트위터에서 자동화된 봇이 트윗을 즉시 게재하고 삭제하여 키워드를 트렌드 목록에 인위적으로 올리는 광범위한 일시적 아스트로터핑 공격을 폭 드러낸다. 연구는 108,000개의 봇을 통해 19,000개 이상의 고유한 키워드가 조작되었으며, 2020년 7월 기준으로 55%가 여전히 활성 상태였음을 확인했다. 이는 이러한 공격가 최소 20%의 상위 10개 세계 트렌드에 영향을 미치며, 공공의 여론 조작과 유해 콘텐츠 유포를 가능하게 한다.

ABSTRACT

We uncover and study ongoing ephemeral astroturfing attacks in which many automatically generated tweets are posted by a collection of fake and compromised accounts and then deleted immediately to artificially propel a chosen keywords to the top of Twitter trends. We observe such attacks in the wild and determine that they are not only quite successful in pushing a keyword to trends but also extremely prevalent. We detected over 19,000 unique keywords pushed to trends by over 108,000 bots, 55% of which still exist on the platform by July 2020 using Internet Archive's Twitter Stream Grab over four years. Trends astroturfed by these attacks account for at least 20% of top 10 world trends. Ephemeral astroturfing pollutes trends; allows for the manipulation of users' opinions; and permits content that could otherwise be filtered by the platform, such as illicit advertisements, political disinformation and hate speech targeting vulnerable populations. Our results aid in understanding user manipulation on social media and more generally shed light on the types of adversarial behavior that arise to evade detection.

연구 동기 및 목표

• 트위터에서 트렌드 주제를 조작하는 일시적 아스트로터핑 공격의 보편성과 작동 원리를 조사하기 위해.
• 자동화된 봇이 몇 초 내로 트윗을 게재하고 삭제하여 키워드를 트위터 트렌드에서 인위적으로 상승시키는 방식을 분석하기 위해.
• 이러한 조작된 트렌드가 공적 논의와 플랫폼의 무결성에 미치는 장기적 영향과 지속 가능성 평가하기 위해.
• 이러한 공격가 감지 기술을 회피하고 불법 콘텐츠, 위성 정보 및 혐오 발언의 유포를 가능하게 하는 방식을 이해하기 위해.
• 인터넷 아카이브의 트위터 스트림 그랩 데이터를 활용해 이러한 공격의 규모와 효과를 실증적으로 입증하기 위해.

제안 방법

• 인터넷 아카이브의 트위터 스트림 그랩을 사용해 4년간의 트위터 데이터를 수집하여 트윗 폭증과 삭제 패턴을 식별하기 위해.
• 게재 및 삭제 행동 기반으로 자동화된 계정을 식별하기 위해 봇 감지 히وري스틱을 훈련하고 적용하기 위해.
• 트렌드 주제를 표적으로 삼는 공조된 짧은 기간의 캠페인을 탐지하기 위해 트윗 급증 및 삭제의 시간적 패턴을 분석하기 위해.
• 시간이 지남에 따라 조작된 키워드와 관련 봇 계정의 지속성 추적을 통해 장기적 영향 평가하기 위해.
• 트렌드 메타데이터와 봇 활동 로그를 활용해 일시적 아스트로터핑이 상위 10개 세계 트렌드 중 얼마나 많은 비율을 차지하는지 정량화하기 위해.
• 키워드 및 트윗 콘텐츠 분석을 통해 이러한 공격을 통해 홍보된 콘텐츠 유형(위성 정보 및 혐오 발언 포함)을 평가하기 위해.

실험 결과

연구 질문

• RQ1 트위터 트렌드를 빠른 게재 및 삭제 방식으로 조작하는 일시적 아스트로터핑 공격의 보편성은 어느 정도인가요?
• RQ2 이러한 공격가 트위터의 상위 10개 세계 트렌드에 얼마나 많은 영향을 미치는가요?
• RQ3 조작된 키워드와 관련 봇 계정 중 얼마나 많은 비율이 시간이 지나도 플랫폼에서 활성 상태로 유지되나요?
• RQ4 위성 정보나 혐오 발언과 같은 유해 콘텐츠는 이러한 공격을 통해 어떻게 확산되나요?
• RQ5 이러한 공격가 어떻게 봇 활동과 공조 조작을 탐지하도록 설계된 감지 기술을 회피하는가요?

주요 결과

• 일시적 아스트로터핑 공격을 통해 약 19,000개의 고유한 키워드가 트위터 트렌드에 인위적으로 올라갔다.
• 이 공격에 약 108,000개의 봇이 관여했으며, 2020년 7월 기준으로 55%가 여전히 플랫폼에서 활성 상태였다.
• 상위 10개 세계 트렌드 중 최소 20%가 이러한 공격의 영향을 받았으며, 이는 공적 논의에 상당한 영향을 미친다는 것을 시사한다.
• 빠른 게재 및 삭제 사이클 덕분에 감지가 어려워지므로 이러한 공격는 트렌드 조작에 매우 효과적이다.
• 55%의 봇 계정이 지속적으로 활성 상태를 유지하고 있다는 점은 악성 네트워크의 장기적인 운영 능력과 내구성을 보여준다.
• 이러한 공격는 플랫폼이 필터링할 수 있는 정치적 위성 정보, 혐오 발언 및 광고와 같은 불법 콘텐츠의 유포를 가능하게 한다.