[논문 리뷰] Lateral Astroturfing Attacks on Twitter Trending Topics.

Tuğrulcan Elmas, Rebekah Overdorf외 2명|arXiv (Cornell University)|2019. 10. 17.

Hate Speech and Cyberbullying Detection인용 수 5

한 줄 요약

이 논문은 트위터에서 악성 계정이 트윗을 즉시 게재하고 삭제함으로써 키워드를 트렌딩 상태로 인위적으로 끌어올리는 라티컬 애스트로터핑 공격에 대한 최초의 대규모 분석을 제시한다. 연구는 분석된 지역에서 매일 트렌딩 주제의 최소 10퍼센트 이상에 영향을 주는 3,710개의 고유한 키워드를 조작한 20,000개 이상의 악성 계정을 규명하였으며, 이는 탐지 회피를 위해 고도로 정교한 방법으로 공공 논의를 조작하는 데 성공한 것으로 드러났다.

ABSTRACT

Astroturfing attacks use automated accounts to artificially propel a chosen keyword to the top of Twitter trending topics. Lateral astroturfing is a sophisticated subset of such attacks in which the automated tweets 1) are posted by compromised accounts and 2) are deleted immediately after they are created. The former makes the attack more effective and the latter aids in evading detection. We present the first large-scale analysis of lateral astroturfing attacks. We detected over 20 thousand astroturfing accounts that were used between February 2019 and June 2019 to manipulate 3,710 unique keywords --- at least 10% of daily trending topics in the region analyzed. Lateral astroturfing pollutes trending topics; allows for the manipulation of users' opinions; and permits content that could otherwise be filtered by the platform, such as illicit advertisements. Our results aid in understanding user manipulation on social media and more generally shed light on the type of adversarial behavior that arises to evade detection.

연구 동기 및 목표

• 트위터에서의 라티컬 애스트로터핑 공격의 보편성과 작동 원리를 조사하기 위해.
• 악성 계정이 어떻게 탐지되지 않도록 하면서도 키워드를 트렌딩 상태로 인위적으로 끌어올리는지 이해하기 위해.
• 이러한 공격의 규모와 트위터의 트렌딩 주제 시스템에 미치는 영향을 정량화하기 위해.
• 라티컬 애스트로터핑이 공공 여론 조작과 콘텐츠 필터 회피를 가능하게 하여 초래하는 위험을 폭 드러내기 위해.

제안 방법

• 2019년 2월부터 2019년 6월까지 트위터 데이터를 수집하고 분석하여, 빠른 트윗 생성 및 삭제 패턴을 규명하기 위해.
• 특정 키워드를 포함한 트윗을 게재하고 즉시 삭제하는 계정을 추적하기 위해.
• 고도의 트윗 생성 빈도, 짧은 수명 주기, 참여도 부족 등의 행동 이상 징후를 기반으로 악성 계정을 식별하기 위해.
• 키워드 수준의 분석을 통해 특정 지리적 지역의 트렌딩 주제와 연계된 조작된 트윗 폭발 현상을 연결하기 위해.
• 시간적 및 계정 수준의 패턴을 기반으로 라티컬 애스트로터핑과 유기적 트렌딩 행동을 구분하기 위한 히우리스틱 적용하기 위해.
• 검출된 공격을 알려진 조작 캠페인과 플랫폼 탐지 신호와 비교하여 결과의 타당성을 검증하기 위해.

실험 결과

연구 질문

• RQ1 6개월 동안 트위터에서 라티컬 애스트로터핑 공격이 얼마나 보편적인가?
• RQ2 라티컬 애스트로터핑은 유기적 트렌딩 활동과 무엇이 다른가?
• RQ3 라티컬 애스트로터핑 공격이 매일 트렌딩 주제의 구성에 얼마나 큰 영향을 미치는가?
• RQ4 악성 계정은 어떻게 탐지되지 않도록 하면서 이러한 공격의 성공에 기여하는가?
• RQ5 이러한 공격이 콘텐츠 모더레이션과 공공 여론 조작에 미치는 광범위한 함의는 무엇인가?

주요 결과

• 2019년 2월에서 6월 사이에 약 20,000개 이상의 애스트로터핑 계정이 라티컬 애스트로터핑 공격에 참가한 것으로 규명되었다.
• 이 계정들은 3,710개의 고유한 키워드를 조작하였으며, 분석된 지역에서 매일 트렌딩 주제의 최소 10퍼센트 이상이 영향을 받았다.
• 공격은 빠른 트윗 생성과 삭제에 의존하여 표준 탐지 메커니즘을 회피하는 데 성공했다.
• 악성 계정의 사용은 조작 캠페인의 신뢰성과 효과성을 높였다.
• 라티컬 애스트로터핑은 불법 광고와 같은 일반적으로 필터링되는 콘텐츠의 홍보를 가능하게 한다.
• 본 연구는 트위터의 트렌딩 주제 시스템의 무결성에 심각하고 체계적인 위협이 존재함을 드러냈다.