[論文レビュー] Finding Online Extremists in Social Networks

Jytte Klausen, Christopher Marks+1 more|arXiv (Cornell University)|Oct 19, 2016

Spam and Phishing Detection参考文献 13被引用数 10

ひとこと要約

本稿では、プラットフォームの協力に依存せずに、SNS内でのオンライン過激主義者の検出および追跡を可能にするデータ駆動型フレームワークを提案する。アカウントの類似性、アカウント停止後のネットワーク再接続、友達の友達による再接続といった行動パターンをモデル化することで、一般化されたポリアのウームモデルに基づく予測モデルと最適化された探索ポリシーを構築し、ランダムまたはグリーディなアプローチと比較して、停止処理を受けた過激主義者の新規アカウントをはるかに高い効率で特定することに成功した。

ABSTRACT

Online extremists in social networks pose a new form of threat to the general public. These extremists range from cyberbullies who harass innocent users to terrorist organizations such as the Islamic State of Iraq and Syria (ISIS) that use social networks to recruit and incite violence. Currently social networks suspend the accounts of such extremists in response to user complaints. The challenge is that these extremist users simply create new accounts and continue their activities. In this work we present a new set of operational capabilities to deal with the threat posed by online extremists in social networks. Using data from several hundred thousand extremist accounts on Twitter, we develop a behavioral model for these users, in particular what their accounts look like and who they connect with. This model is used to identify new extremist accounts by predicting if they will be suspended for extremist activity. We also use this model to track existing extremist users as they create new accounts by identifying if two accounts belong to the same user. Finally, we present a model for searching the social network to efficiently find suspended users' new accounts based on a variant of the classic Polya's urn setup. We find a simple characterization of the optimal search policy for this model under fairly general conditions. Our urn model and main theoretical results generalize easily to search problems in other fields.

研究の動機と目的

• プラットフォームの協力に依存せずに、SNS内でのオンライン過激主義者の特定および追跡能力を構築すること。
• コンテンツ投稿の有無にかかわらず、事前コンテンツ行動特徴に基づいてアカウントが過激主義活動のため停止されるかどうかを予測すること。
• プロフィールおよびネットワーク類似性を用いて、複数のアカウントを同一の過激主義者ユーザーに紐付けること。
• 停止処理を受けたユーザーが新規アカウントを作成した後、どの元の友達に再接続するかを予測すること。
• ネットワーク構造と確率的モデリングを活用して、停止処理を受けた過激主義者の新規アカウントを効率的に特定する探索ポリシーを設計すること。

提案手法

• ISIS関連の36万件の停止処理を受けたTwitterアカウントのデータを用いて、過激主義アカウントの行動モデルを構築する。
• 位置情報の欠落、フォロワー数、接続パターンなどのプロフィールおよびネットワーク特徴を用いて、将来の停止を予測する。
• 一般化されたポリアのウームモデルを適用して、停止ユーザーの新規アカウント探索プロセスを形式化する。
• 再接続確率が高く、フォロワー数が少ない元の友達を優先して照会する最適な探索ポリシーを導出する。
• 性能比較のため、グリーディ法およびMin-N法をベンチマークとして採用する。
• 探索効率と正確性のバランスを図るため、存在確率の閾値（ρ̄ > 0）に基づく終了基準を導入する。

実験結果

リサーチクエスチョン

• RQ1 コンテンツを投稿しなくても、過激主義コンテンツのためのアカウント停止を予測することは可能か？
• RQ2 行動的およびネットワーク的特徴に基づいて、複数のアカウントを同一の過激主義者ユーザーに正確に紐付けることは可能か？
• RQ3 停止処理を受けた過激主義者の新規アカウントを特定するための最適なSNS内探索戦略は何か？
• RQ4 過激主義者が元の友達に再接続する行動が、探索効率にどのように影響するか？
• RQ5 確率的存在閾値の導入が、探索ポリシーの最適性にどのように影響するか？

主な発見

• 最適な探索ポリシーは、ランダム法やグリーディ法と比較して、停止処理を受けた過激主義者の新規アカウントを特定するための照会回数を最大50％削減した。
• 最適ポリシーは40％の再接続率を達成し、15組のテストアカウントペアのすべてにおいて、最初に高い再接続確率・低いフォロワー数の元の友達を照会することでターゲットを正常に特定した。
• グリーディ法および最適法はランダム法を上回り、成功までの期待失敗回数は理論的な幾何分布（1.5回の期待失敗）とよく一致した。
• Min-N法は最適法とほぼ同等の性能を示し、実用的導入におけるロバストネスを示した。
• 最適ポリシーは、存在確率の閾値（ρ̄ > 0）を導入しても効果を維持したが、初期確率ρ₀が条件付き確率および探索結果に顕著な影響を与えた。
• 行動モデルおよび探索フレームワークは、過激主義グループやSNSに特化せず汎用的であり、ISISやTwitterに特化していない。