[論文レビュー] TrollSpot: Detecting misbehavior in commenting platforms

Tai Ching Li, Joobin Gharibshah+2 more|arXiv (Cornell University)|Jun 6, 2018

Spam and Phishing Detection参考文献 15被引用数 7

ひとこと要約

TrollSpotは、73の多次元的特徴を用いて、コメントプラットフォーム上での悪意あるユーザー（スパムマーケター、トロール、熱狂的ユーザー）を検出・微細分類する2段階で解釈可能な分類フレームワークを提案する。700万件のDisqusコメントを対象に評価した結果、悪意検出でAUC 0.904、役割分類で全体正解率80.8％を達成。潜在的行動分析により、時間帯や言語的パターンが不正行為と関連していることが明らかになった。

ABSTRACT

Commenting platforms, such as Disqus, have emerged as a major online communication platform with millions of users and posts. Their popularity has also attracted parasitic and malicious behav- iors, such as trolling and spamming. There has been relatively little research on modeling and safeguarding these platforms. As our key contribution, we develop a systematic approach to detect malicious users on commenting platforms focusing on having: (a) interpretable, and (b) fine-grained classification of malice. Our work has two key novelties: (a) we propose two classifications methods, with one following a two stage approach, which first maps observ- able features to behaviors and then maps these behaviors to user roles, and (b) we use a comprehensive set of 73 features that span four dimensions of information. We use 7 million comments during a 9 month period, and we show that our classification methods can distinguish between benign, and malicious roles (spammers, trollers, and fanatics) with a 0.904 AUC. Our work is a solid step to- wards ensuring that commenting platforms are a safe and pleasant medium for the exchange of ideas.

研究の動機と目的

• コメントプラットフォームにおける悪意ある行動を系統的かつ解釈可能な方法で検出・分類するための手法を開発すること。
• スパムマーケター、トロール、熱狂的ユーザーといった微細な悪意あるユーザー役割を特定できるように、二値分類を超えた分類を実現すること。
• ユーザー行動をモデル化するため、社会的要因、参加度、時間的要因、言語的要因の4次元にわたる73の特徴を包括的に用いること。
• 行動中心の解釈可能な分類を通じて、プラットフォーム管理者に実行可能なインサイトを提供すること。
• Disqusの9か月間にわたる700万件の実世界データセットを用いて、モデルを評価すること。

提案手法

• 2段階分類アプローチ：まず教師なし学習を用いて観察可能な特徴を行動にマッピングし、次に教師あり学習により行動をユーザー役割にマッピングする。
• 4次元の73の特徴の使用：社会的相互作用（ユーザー同士）、参加度（ユーザー-記事）、時間的要因（タイミングと活動パターン）、言語的要因（大文字使用や長さなど）。
• 役割分類にランダムフォレストとコクラスタリング手法を採用。行動ベースの特徴マッピングにより解釈可能性を維持。
• ユーザー行動パターンのクラスタリングによる潜在的行動の同定により、不正行為と関連する時間帯やテキスト的特徴を特定。
• プラットフォームのモデレーションログに基づき、4つの役割（健全、スパムマーケター、トロール、熱狂的ユーザー）にユーザーを真のラベル付け。
• Disqusの実世界データセットを用いてAUCと正解率の指標で評価し、行動パターンの統計的妥当性を検証。

実験結果

リサーチクエスチョン

• RQ1 行動ベースの分類システムは、コメントプラットフォーム上での健全ユーザーと悪意あるユーザーを効果的に区別できるか？
• RQ2 提案された2段階手法は、ベースライン手法と比較して、悪意あるユーザー役割の分類における解釈可能性と正解率を向上させられるか？
• RQ3 時間的、言語的、社会的特徴のうち、どの行動パターンが不正行為ユーザーと健全ユーザーを区別するか？
• RQ4 ユーザーの活動パターンとテキスト的特徴は、スパムマーケター、トロールなどの悪意ある役割とどのように相関するか？
• RQ5 悪意あるユーザーはどの程度複数のウェブサイトで行動を繰り返しており、その活動タイミングは不正行為とどの程度関連しているか？

主な発見

• 悪意あるユーザーの検出において、AUC 0.904を達成し、ベースライン手法を顕著に上回った。
• 4クラス（健全、スパムマーケター、トロール、熱狂的ユーザー）における微細分類の全体正解率は80.8％に達した。
• 潜在的行動1（大文字の多用、長いコメント、UTC 7–13時の活動ピークを特徴とする）を示すユーザーの87.9％が不正行為ユーザーであった。
• UTC 13–26時の活動（潜在的行動3）を示すユーザーは、平均より60％高い協働度とコメント量を示し、20.7％が不正行為ユーザーであった。
• 活動時間帯が遅いほど不正行為ユーザーの割合が増加：UTC 13–26時（20.7％）、UTC 3–8時（31.3％）、UTC 6–14時（56％）と、時間帯と悪意の相関が明確に示された。
• 不正行為ユーザーのうち15％しかクロスサイト行動を示さなかったため、大多数の悪意ある活動はプラットフォーム固有であると考えられる。