[論文レビュー] The Power of Deletions: Ephemeral Astroturfing Attacks on Twitter Trends

Tuğrulcan Elmas, Rebekah Overdorf+2 more|arXiv (Cornell University)|Oct 17, 2019

Spam and Phishing Detection参考文献 42被引用数 4

ひとこと要約

この論文は、自動化されたボットがツイートを投稿して直ちに削除することで、キーワードをトレンドリストに不正に上位表示させる、広範な一時的アストロターフィング攻撃を明らかにしている。本研究では、108,000体のボットを用いて19,000個以上の固有キーワードが操作されたことが判明し、2020年7月時点で55％が依然として活動を継続していた。この攻撃は、世界トップ10トレンドの少なくとも20％に影響を与え、世論の操作や有害コンテンツの拡散を可能にしている。

ABSTRACT

We uncover and study ongoing ephemeral astroturfing attacks in which many automatically generated tweets are posted by a collection of fake and compromised accounts and then deleted immediately to artificially propel a chosen keywords to the top of Twitter trends. We observe such attacks in the wild and determine that they are not only quite successful in pushing a keyword to trends but also extremely prevalent. We detected over 19,000 unique keywords pushed to trends by over 108,000 bots, 55% of which still exist on the platform by July 2020 using Internet Archive's Twitter Stream Grab over four years. Trends astroturfed by these attacks account for at least 20% of top 10 world trends. Ephemeral astroturfing pollutes trends; allows for the manipulation of users' opinions; and permits content that could otherwise be filtered by the platform, such as illicit advertisements, political disinformation and hate speech targeting vulnerable populations. Our results aid in understanding user manipulation on social media and more generally shed light on the types of adversarial behavior that arise to evade detection.

研究の動機と目的

• ツイッターにおける一時的アストロターフィング攻撃の広がりとメカニズムを調査すること。
• 自動化されたボットが数秒以内にツイートを投稿・削除することで、ツイッターのトレンドにキーワードを不正に上昇させる方法を分析すること。
• こうした操作されたトレンドが公共の議論やプラットフォームの整合性に及ぼす長期的影響と持続可能性を評価すること。
• こうした攻撃が検出を回避する仕組みと、違法コンテンツ、誤情報、嫌がらせ発言の拡散を助長する仕組みを理解すること。
• インターネット・アーカイブのツイッター・ストリーム・グラブから得たデータを用いて、こうした攻撃の規模と有効性を実証的に示すこと。

提案手法

• インターネット・アーカイブのツイッター・ストリーム・グラブを用いて4年間分のツイッター・データを収集し、ツイートの急増と削除のパターンを特定した。
• 投稿および削除行動に基づいて、自動化されたアカウントを同定するためのボット検出ヒューリスティクスを訓練・適用した。
• トレンドトピックを標的とした一時的で協調的なキャンペーンを検出するため、ツイートの急増と削除の時間的パターンを分析した。
• 操作されたキーワードと関連ボットアカウントの時間的持続性を追跡し、長期的影響を評価した。
• トレンドメタデータとボット活動ログを用いて、トップ10の世界トレンドに占める一時的アストロターフィングの影響割合を定量的に評価した。
• キーワードおよびツイート内容の分析を通じて、誤情報や嫌がらせ発言を含む、こうした攻撃を通じて促進されたコンテンツの種別を評価した。

実験結果

リサーチクエスチョン

• RQ1 キーワードの急速な投稿と削除を用いてトレンドを操作する一時的アストロターフィング攻撃は、どれほど広がっているか？
• RQ2 こうした攻撃は、ツイッターの世界トップ10トレンドにどれほど効果的にキーワードを押し上げているか？
• RQ3 操作されたキーワードと関連ボットアカウントのうち、時間経過とともにどれだけがプラットフォーム上で活動を継続しているか？
• RQ4 誤情報や嫌がらせ発言を含む、こうした攻撃によって拡散された有害コンテンツの種類は何か？
• RQ5 こうした攻撃は、ボット活動や協調的操作を特定するための検出メカニズムをどのように回避しているか？

主な発見

• 19,000個以上の固有キーワードが、一時的アストロターフィング攻撃によって不正にツイッターのトレンドに押し上げられた。
• 108,000体以上のボットがこの攻撃に関与しており、2020年7月時点で55％が依然としてプラットフォーム上で活動していた。
• 世界トップ10トレンドの少なくとも20％がこうした攻撃の影響を受けており、公共の議論に大きな影響を与えていることが示された。
• 迅速な投稿・削除サイクルにより検出を回避できるため、攻撃はトレンド操作において極めて効果的である。
• 55％のボットアカウントの持続性は、こうした悪意あるネットワークの長期的運用能力とレジリエンスを示している。
• こうした攻撃は、通常プラットフォームがフィルタリングする政治的誤情報、嫌がらせ発言、広告などの違法コンテンツの拡散を容易にする。