[論文レビュー] Who Let The Trolls Out? Towards Understanding State-Sponsored Trolls

Savvas Zannettou, Tristan Caulfield+4 more|arXiv (Cornell University)|Nov 7, 2018

Misinformation and Its Impacts参考文献 30被引用数 46

ひとこと要約

本論文は Twitter と Reddit のロシアおよびイラン政府後援のトロールによる 10 million posts を分析し、彼らの行動、キャンペーン、言語、タイミング、Twitter、Reddit、4chan、Gab における影響を、Hawkes Processes と word embeddings を用いて検討する。

ABSTRACT

Over the past few years, extensive anecdotal evidence emerged that suggests the involvement of state-sponsored actors (or “trolls”) in online political campaigns with the goal to manipulate public opinion and sow discord. Recently, Twitter and Reddit released ground truth data about Russian and Iranian state-sponsored actors that were active on their platforms. In this paper, we analyze these ground truth datasets across several axes to understand how these actors operate, how they evolve over time, who are their targets, how their strategies changed over time, and what is their influence to the Web’s information ecosystem. Among other things we find: a) campaigns of these actors were influenced by real-world events; b) these actors were employing different tactics and had different targets over time, thus their automated detection is not straightforward; and c) Russian trolls were clearly pro-Trump, whereas Iranian trolls were anti-Trump. Finally, using Hawkes Processes, we quantified the influence that these actors had to four Web communities: Reddit, Twitter, 4chan’s Politically Incorrect board (/pol/), and Gab, finding that Russian trolls were more influential than Iranians with the exception of /pol/

研究の動機と目的

• Twitter と Reddit（ロシアおよびイラン）からの国家後援トロール・アカウントの地道な検証を特徴づける。
• トロールキャンペーンが時間とともにどのように変化し、実世界のイベントにどのように反応するかを調べる。
• これらのトロールが複数のWebコミュニティに与える影響を統計的モデリングで定量化する。

提案手法

• Hawkes Processes を用いて、トロールアカウントが Twitter、Reddit、4chan (/pol/)、Gab での URL 拡散に与える影響をモデリングする。
• word embeddings（word2vec）を適用して、言語とコンテンツのイデオロギー的・文脈的差異を特定する。
• アカウント作成タイミング、プロフィール説明、フォロワー/友達の分布、言語/クライアントの使用状況を分析し、ペルソナとキャンペーン戦略を理解する。
• プラットフォーム、言語、時間を横断してロシア系トロールとイラン系トロールの行動を対比する。

実験結果

リサーチクエスチョン

• RQ1 ロシアとイラン間で、時間とプラットフォームを跨いだ国家後援トロール作戦はどのように異なるか。
• RQ2 ロシア系とイラン系トロールキャンペーンを特徴づける内容と言語パターンは何か。
• RQ3 現実世界のイベントはこれらの国家後援トロールのキャンペーンにどの程度影響を与えるのか。
• RQ4 これらのトロールは Twitter、Reddit、4chan、Gab でのコンテンツ拡散にどれだけ影響力を持つのか。

主な発見

• ロシア系トロールは Twitter での URL 拡散において高い影響力と効率を示し、Reddit と Gab ではイラン系トロールよりも影響力が大きかったが、/pol/ の例外としてイラン系がより影響力を持つ場面もあった。
• 語彙埋め込みはイデオロギーの差を示し、ロシア系トロールはトランプ支持寄り、イラン系トロールはトランプに対して反対的だった。
• イラン系キャンペーンは現実世界のイベント（例：フランスとサウジアラビアの出来事）と整合しており、イベント駆動の活動を示唆する。
• トロールの行動は時間とともに変化し、言語使用や Twitter クライアントの選択の転換を含む、進化するキャンペーン戦略を示す。
• プラットフォームごとにトロールの話題と議論が異なり（例：Reddit のロシア系トロールは Twitter より仮想通貨を強調していた）、影響の違いを示す。
• 研究は再現性とさらなる研究を支援するため、データとコードを公開した。