[論文レビュー] Lateral Astroturfing Attacks on Twitter Trending Topics.

Tuğrulcan Elmas, Rebekah Overdorf+2 more|arXiv (Cornell University)|Oct 17, 2019

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

この論文は、Twitterにおける横方向のアストロターフィング攻撃の最初の大規模な分析を提示している。攻撃者は、不正に乗っ取られたアカウントを用いて、キーワードをトレンド化するためにツイートを投稿し、直ちに削除することで、意図的にキーワードをトレンド化する。研究では、3,710個の固有のキーワードを操作した20,000件以上のアカウントを同定した。これは、分析対象地域の1日あたりのトレンドトピックの少なくとも10％に影響を与えた。この手法は、検出を回避するための巧妙な仕組みであり、公共の議論を操作する目的で用いられている。

ABSTRACT

Astroturfing attacks use automated accounts to artificially propel a chosen keyword to the top of Twitter trending topics. Lateral astroturfing is a sophisticated subset of such attacks in which the automated tweets 1) are posted by compromised accounts and 2) are deleted immediately after they are created. The former makes the attack more effective and the latter aids in evading detection. We present the first large-scale analysis of lateral astroturfing attacks. We detected over 20 thousand astroturfing accounts that were used between February 2019 and June 2019 to manipulate 3,710 unique keywords --- at least 10% of daily trending topics in the region analyzed. Lateral astroturfing pollutes trending topics; allows for the manipulation of users' opinions; and permits content that could otherwise be filtered by the platform, such as illicit advertisements. Our results aid in understanding user manipulation on social media and more generally shed light on the type of adversarial behavior that arises to evade detection.

研究の動機と目的

• Twitterにおける横方向のアストロターフィング攻撃の広がりとメカニズムを調査すること。
• 不正に乗っ取られたアカウントが、検出を回避しながらキーワードをトレンド化するためにどのように使用されるかを理解すること。
• このような攻撃がTwitterのトレンドトピックスシステムに与える規模と影響を定量化すること。
• 横方向のアストロターフィングが、公共の世論の操作やコンテンツフィルタの回避を可能にするリスクを明らかにすること。

提案手法

• 2019年2月から2019年6月までのTwitterデータを収集・分析し、急速なツイート作成と削除のパターンを特定した。
• 特定のキーワードを含むツイートを投稿し、直ちに削除するアカウントを追跡した。
• 高頻度のツイート、一時的なコンテンツ、参加のない行動などの行動的異常から、乗っ取られたアカウントを同定した。
• キーワードレベルの分析を用いて、地理的地域別に一時的なツイートの爆発的発生をトレンドトピックと関連付けた。
• 時間的およびアカウントレベルのパターンに基づき、横方向のアストロターフィングと自然発生的なトレンド行動を区別するためのヒューリスティクスを適用した。
• 検出された攻撃を、既知の操作キャンペーンやプラットフォームの検出信号と照合することで、研究結果の妥当性を検証した。

実験結果

リサーチクエスチョン

• RQ1 6か月間の期間において、Twitterにおける横方向のアストロターフィング攻撃はどの程度広がっているか？
• RQ2 横方向のアストロターフィングと自然発生的なトレンド行動を区別する行動的サインは何か？
• RQ3 横方向のアストロターフィング攻撃は、1日あたりのトレンドトピックの構成にどの程度影響を与えているか？
• RQ4 乗っ取られたアカウントは、検出を回避しながら、これらの攻撃の成功にどのように寄与しているか？
• RQ5 このような攻撃がコンテンツモデレーションおよび公共の世論操作に与える広範な意味は何か？

主な発見

• 2019年2月から6月にかけて、20,000件以上のアストロターフィングアカウントが横方向のアストロターフィング攻撃に参加していた。
• これらのアカウントは3,710個の固有のキーワードを操作し、分析対象地域の1日あたりのトレンドトピックの少なくとも10％が影響を受けていた。
• 攻撃は、急速なツイート作成と削除に依存しており、標準的な検出メカニズムを回避するのに有効だった。
• 乗っ取られたアカウントの使用により、操作キャンペーンの信ぴょう性と効果が高まった。
• 横方向のアストロターフィングは、違法広告など、通常はフィルタリングされる可能性のあるコンテンツのプロモーションを可能にする。
• 本研究は、Twitterのトレンドトピックスシステムの整合性に対する顕著で体系的な脅威を明らかにした。