[論文レビュー] Smoke Screener or Straight Shooter: Detecting Elite Sybil Attacks in User-Review Social Networks

Haizhong Zheng, Minhui Xue+5 more|arXiv (Cornell University)|Sep 20, 2017

Spam and Phishing Detection参考文献 23被引用数 7

ひとこと要約

本稿では、DianpingのようなユーザーレビューSNSで、高品質で時間的に分散された偽レビューを投稿することで本物のユーザーを模倣するエリート・シビルユーザーを特定するための三段階検出システム、ElsieDetを提案する。コミュニティクラスタリング、キャンペーン期間特定、および新規の「シビル度」指標を用いることで、従来の検出手法では検出されないエリート・シビルユーザーを高い精度で同定する。

ABSTRACT

Popular User-Review Social Networks (URSNs)---such as Dianping, Yelp, and Amazon---are often the targets of reputation attacks in which fake reviews are posted in order to boost or diminish the ratings of listed products and services. These attacks often emanate from a collection of accounts, called Sybils, which are collectively managed by a group of real users. A new advanced scheme, which we term elite Sybil attacks, recruits organically highly-rated accounts to generate seemingly-trustworthy and realistic-looking reviews. These elite Sybil accounts taken together form a large-scale sparsely-knit Sybil network for which existing Sybil fake-review defense systems are unlikely to succeed. In this paper, we conduct the first study to define, characterize, and detect elite Sybil attacks. We show that contemporary elite Sybil attacks have a hybrid architecture, with the first tier recruiting elite Sybil workers and distributing tasks by Sybil organizers, and with the second tier posting fake reviews for profit by elite Sybil workers. We design ElsieDet, a three-stage Sybil detection scheme, which first separates out suspicious groups of users, then identifies the campaign windows, and finally identifies elite Sybil users participating in the campaigns. We perform a large-scale empirical study on ten million reviews from Dianping, by far the most popular URSN service in China. Our results show that reviews from elite Sybil users are more spread out temporally, craft more convincing reviews, and have higher filter bypass rates. We also measure the impact of Sybil campaigns on various industries (such as cinemas, hotels, restaurants) as well as chain stores, and demonstrate that monitoring elite Sybil users over time can provide valuable early alerts against Sybil campaigns.

研究の動機と目的

• ユーザーレビューSNS（URSN）におけるエリート・シビル攻撃の増加する脅威に対処すること。ここでは、高評価のユーザーが操られ、本物らしく偽のレビューを投稿される。
• 社会的グラフの接続性や集約的行動に依存する従来のシビル検出手法の限界を克服すること。これは、疎な接続を持つURSNでは機能しない。
• 本物のユーザーの行動を模倣するが、現実的な時間的パターンを持つ説得力のあるレビューを書くエリート・シビルユーザーを検出すること。これにより、従来の特徴ベースおよびクラスタリングベースの防御を回避できる。
• エリート・シビルユーザーを時間経過にわたって監視することで、広範な被害が生じる前に対応可能なアラートを早期に提供する。
• Dianping以外のURSN、例えばYelp や Amazon に対しても適用可能なスケーラブルで独立したシステムを設計すること。

提案手法

• 段階I：協働的な投稿行動に基づいてユーザーをクラスタリングすることで、不審なシビルコミュニティを検出する。
• 段階II：新規のキャンペーン検出アルゴリズムを用いて、シビルキャンペーンの開始時刻と終了時刻を特定し、非キャンペーンレビューをフィルタリングする。
• 段階III：キャンペーン参加頻度と時間的分散性に基づいて各ユーザーの「シビル度」スコアを計算し、エリート・シビルユーザーを分類する。
• 1000万件のレビューを含むDianpingのデータセット（2014年1月〜2016年6月）を大規模な実証評価およびモデル学習に活用する。
• 行動クラスタリング、時間的パターン分析、およびユーザー単位のスコアリングを統合したハイブリッド検出アプローチを採用することで、検出精度を向上させる。
• 文脈的特徴やNLPモデルに依存しないため、AI生成の偽レビューに対しても強固である。

実験結果

リサーチクエスチョン

• RQ1 エリート・シビルユーザーは、本物のユーザーと比べてレビュー投稿のパターンやコンテンツ品質でどのように異なるか？
• RQ2 エリート・シビルキャンペーンは、URSNにおいてどのような構造的・行動的特徴を持つか？
• RQ3 三段階検出システムは、従来のグラフベースおよび特徴ベースの防御を回避するエリート・シビルユーザーを効果的に同定できるか？
• RQ4 エリート・シビルユーザーを時間経過にわたって監視することは、シビルキャンペーンの早期アラートを提供するためにどの程度有効か？
• RQ5 エリート・シビル攻撃は、映画館、ホテル、レストランなどの業界において、どの程度レーティングを歪めているか？

主な発見

• エリート・シビルユーザーは、本物のユーザーと比べてレビューの投稿がより時間的に分散しているため、検出を回避する。
• エリート・シビルユーザーのレビューは、より洗練されており、より説得力があるため、フィルターバイパス率が高い。
• 大多数のシビルキャンペーンは、活動開始後2週間以内に、エリート・シビルユーザーの監視によって検出可能である。
• シビル度スコアは、本物のユーザーの行動を模倣するユーザーに対しても、高い正確性でエリート・シビルユーザーを同定できた。
• エリート・シビル攻撃は、映画館、ホテル、レストランなどの業界でレーティングを著しく歪め、チェーンストアは特に脆弱である。
• ElsieDetは、Dianpingの実世界の1000万件のレビューからなるデータセットにおいて、高い有効性とスケーラビリティを示した。