[論文レビュー] Identifying Compromised Accounts on Social Media Using Statistical Text Analysis

Dominic Seyler, Lunan Li+1 more|arXiv (Cornell University)|Apr 19, 2018

Spam and Phishing Detection参考文献 17被引用数 7

ひとこと要約

本稿では、正当なユーザーと悪意あるアクターの間の言語的逸脱を特定することで、改ざんされたソーシャルメディアアカウントを検出する統計的テキスト分析フレームワークを提案する。1億2900万件のツイートからなるTwitterコーパスを用い、言語モデルと教師あり学習を適用することで、ユーザーとスパマーの言語モデル間の類似度を測定し、有望な検出性能を達成する。

ABSTRACT

Compromised social media accounts are legitimate user accounts that have been hijacked by a third (malicious) party and can cause various kinds of damage. Early detection of such compromised accounts is very important in order to control the damage. In this work we propose a novel general framework for discovering compromised accounts by utilizing statistical text analysis. The framework is built on the observation that users will use language that is measurably different from the language that a hacker (or spammer) would use, when the account is compromised. We use the framework to develop specific algorithms based on language modeling and use the similarity of language models of users and spammers as features in a supervised learning setup to identify compromised accounts. Evaluation results on a large Twitter corpus of over 129 million tweets show promising results of the proposed approach.

研究の動機と目的

• 改ざんされたソーシャルメディアアカウントによる誤情報拡散やスパムの増加という脅威に対処すること。
• 早期に改ざんアカウントを特定し、悪意ある活動による損害を制限すること。
• 行動的ヒューリスティクスに依存しない、言語的パターンに基づくアカウント改ざん検出の汎用的フレームワークを構築すること。
• 統計的言語モデルを活用して、ハッカーまたはスパマーの言語と本物のユーザーの言語を区別すること。

提案手法

• フレームワークは、ユーザーのツイート内容に基づいて個々のユーザーの言語モデルと、既知のスパマーのプロファイルの言語モデルを構築する。
• 統計的距離測度を用いて、ユーザーの言語モデルと基準となるスパマー言語モデルとの類似度を計算する。
• 類似度スコアは、教師あり機械学習パイプラインにおける主要な特徴量として機能し、アカウントが改ざん済みか否かを分類する。
• 本手法は、1億2900万件を超えるツイートを含む大規模なTwitterコーパス上で訓練および評価される。
• 言語的乖離に基づいて検出性能を最適化するため、ラベル付きデータを用いた教師あり学習が用いられる。
• 本アプローチは汎用的であり、特定のアカウントメタデータや行動パターンに依存しない。

実験結果

リサーチクエスチョン

• RQ1 正当なユーザーとスパマーの間の言語的差異は、アカウント改ざんを信頼性高く示唆できるか？
• RQ2 言語モデルの類似度は、通常のアカウントと改ざんアカウントを区別するためにどの程度有効か？
• RQ3 統計的テキスト分析フレームワークは、ソーシャルメディア上での多様なユーザー集団に一般化可能か？
• RQ4 ツイートからのテキスト特徴量のみを用いて、どの程度の検出精度が達成できるか？

主な発見

• 提案されたフレームワークは、1億2900万件を超える大規模なTwitterデータセットにおいて、有望な検出性能を達成した。
• ユーザーとスパマーの間の言語モデル類似度は、改ざんアカウントを特定する強力な判別特徴量である。
• 本手法は、行動的またはメタデータ信号を一切必要とせず、テキストコンテンツのみに基づいて改ざんアカウントを効果的に検出できた。
• 統計的言語モデルに依存するため、本フレームワークは多様なユーザー集団にわたって汎用性を示した。
• 結果から、ユーザーの通常の文章スタイルからの言語的逸脱が、アカウント乗っ取りの信頼性の高い指標であることが示された。