[論文レビュー] Detecting Influence Campaigns in Social Networks Using the Ising Model

Nicolas Guenon des Mesnards, Tauhid Zaman|arXiv (Cornell University)|May 25, 2018

Spam and Phishing Detection参考文献 9被引用数 5

ひとこと要約

本稿では、異種結合性（heterophily）を活用して、人間とボットの間での相互作用を強調することで、協調的影響キャンペーンを同定するための統合的ボット検出アルゴリズムを提案する。Isingモデルを用いてネットワーク構造とボットラベルをモデル化することで、最尤推定を最小カット問題に還元し、効率的かつスケーラブルな検出を実現。個別アカウントベースの手法を上回り、ニュースアカウントにおける誤検出を低減する。

ABSTRACT

We consider the problem of identifying coordinated influence campaigns conducted by automated agents or bots in a social network. We study several different Twitter datasets which contain such campaigns and find that the bots exhibit heterophily - they interact more with humans than with each other. We use this observation to develop a probability model for the network structure and bot labels based on the Ising model from statistical physics. We present a method to find the maximum likelihood assignment of bot labels by solving a minimum cut problem. Our algorithm allows for the simultaneous detection of multiple bots that are potentially engaging in a coordinated influence campaign, in contrast to other methods that identify bots one at a time. We find that our algorithm is able to more accurately find bots than existing methods when compared to a human labeled ground truth. We also look at the content posted by the bots we identify and find that they seem to have a coordinated agenda.

研究の動機と目的

• 個別アカウントベースの検出手法で回避される可能性がある、ソーシャルネットワークにおけるボットによる協調的影響キャンペーンの検出という課題に取り組む。
• 個別アカウントの分析では検出できないボットの協調的行動パターンを同定する。
• 個別アカウントの特徴に依存せず、ネットワーク構造に着目したスケーラブルで効率的な検出手法を開発する。
• ニュース配信元のような高活動アカウントと協調的ボットを区別し、誤検出を低減する。
• 共有ハッシュタグやリツイート行動のコンテンツ分析を通じて、検出されたボットの背後にある意図を解明する。

提案手法

• 統計物理学におけるIsingモデルを用いて、アカウント間の相互作用パターンを組み込んだ、ソーシャルネットワークとボットラベルのモデル化を行う。
• ボットラベルはネットワーク構造に基づいて確率的に推定され、エネルギー項は異種結合性（heterophily）を促進するよう設計されている—つまり、ボットは他のボットよりも人間と多く相互作用することを好む。
• ボットラベルの最尤推定を、グラフにおける最小カット問題に還元し、ネットワークフロー法を用いた効率的計算を可能にする。
• 個別アカウントの特徴に依存を最小限に抑えるために、ノードエネルギーを情報のないもの（uninformative）に設定し、構造的相互作用に焦点を当てる。
• 最小カット問題を解くことで、ネットワーク内に存在するすべてのアカウントに対して同時にボットラベルを割り当て、統合的検出を実現する。
• 人間によるラベル付け済みの真値データを用いて結果を検証し、BotOrNotとの性能比較を受信者操作特性曲線（ROC）とAUC指標を用いて行う。

実験結果

リサーチクエスチョン

• RQ1 現代の影響キャンペーンボットは、個別アカウントの特徴ではなく、ネットワークレベルの相互作用によって検出可能な協調的行動を示すのか？
• RQ2 Isingモデルは、特に異種結合性を含む、ソーシャルネットワークにおけるボット相互作用の構造的パターンを効果的に捉えられるか？
• RQ3 最小カットによる統合的検出は、個別ボット検出手法に比べ、精度と誤検出率の面で優れているか？
• RQ4 共有コンテンツおよびハッシュタグ使用の分析を通じて、検出されたボットを協調的意図と結びつけることができるか？
• RQ5 本アルゴリズムは、異なる地理的・政治的出来事やボットキャンペーンを含む多様なデータセットにおいて、どのように性能を発揮するか？

主な発見

• 提案手法のIsingモデルベースのアルゴリズムは、ほとんどのデータセットでBotOrNotを上回るAUC（例：BLM 2016で0.91）を達成。ただし、BLM 2015では協調性が低かったため、同様の結果ではない。
• 最大545,000アカウントのネットワークにおいて数分から数時間で処理可能で、現代の代替手法に比べて著しく高速。10万アカウントあたりの計算コストは3.5秒。
• 高活動な公式ニュースアカウント（例：CNN、NYT）における誤検出を低減。これは、投稿行動ではなく相互作用構造に依存しているため、BotOrNotが誤って分類するのを防ぐ。
• ボットは強い異種結合性を示しており、他のボットよりも人間と顕著に多く相互作用している。これは、モデルの核心的仮定が妥当であることを裏付ける。
• コンテンツ分析から、ボットが特定の国際的地理的・政治的議題を促進していることが判明。例として、#WakeUpBritain や #furherMerkel といったハッシュタグを用いて、米国発の論争を国際的に拡散している。
• 本手法は言語に依存せず、言語や文化的知識が不要なため、Facebook や Reddit、Instagram などの任意のソーシャルネットワークプラットフォームに適用可能。