[論文レビュー] Adversarial Classification on Social Networks

Sixie Yu, Yevgeniy Vorobeychik+1 more|arXiv (Cornell University)|Jan 24, 2018

Misinformation and Its Impacts参考文献 24被引用数 7

ひとこと要約

本稿は、SNSにおける悪意あるコンテンツの悪用的検出のためのスタッケルベルクゲームベースのフレームワークを提案する。攻撃者の行動（コンテンツおよびノード選択）と防御者の戦略（異種でネットワークに適応した検出器）をモデル化する。本稿では、暗黙の勾配法を用いた新規の二段階最適化を導入し、多様なネットワーク構造において、悪意あるコンテンツの拡散を顕著に低減する。

ABSTRACT

The spread of unwanted or malicious content through social media has become a major challenge. Traditional examples of this include social network spam, but an important new concern is the propagation of fake news through social media. A common approach for mitigating this problem is by using standard statistical classification to distinguish malicious (e.g., fake news) instances from benign (e.g., actual news stories). However, such an approach ignores the fact that malicious instances propagate through the network, which is consequential both in quantifying consequences (e.g., fake news diffusing through the network), and capturing detection redundancy (bad content can be detected at different nodes). An additional concern is evasion attacks, whereby the generators of malicious instances modify the nature of these to escape detection. We model this problem as a Stackelberg game between the defender who is choosing parameters of the detection model, and an attacker, who is choosing both the node at which to initiate malicious spread, and the nature of malicious entities. We develop a novel bi-level programming approach for this problem, as well as a novel solution approach based on implicit function gradients, and experimentally demonstrate the advantage of our approach over alternatives which ignore network structure.

研究の動機と目的

• SNSを介して拡散する悪意あるコンテンツを検出する際、従来の均質的分類器の限界を是正すること。
• 検出器を展開する防御者と、検出を回避するために開始ノードおよびコンテンツを選択する攻撃者の間の戦略的相互作用をモデル化すること。
• ネットワーク構造とコンテンツ固有の拡散ダイナミクスを検出プロセスに統合し、より高い耐性を実現すること。
• 暗黙関数の勾配を用いた、悪用的ネットワーク環境における二段階最適化のスケーラブルな解決策を開発すること。
• 実世界のネットワーク構造において、ネットワークに適応した異種の検出戦略が、標準的手法を顕著に上回ることを実証すること。

提案手法

• 防御者（検出器パラメータの選択）と攻撃者（検出を回避するための攻撃ノードおよびコンテンツの選択）の間で検出問題をスタッケルベルクゲームとして形式化する。
• コンテンツの拡散をコンテンツ特徴の関数としてモデル化し、従来の影響モデルを拡張してコンテンツ依存の拡散を捉える。
• 防御者の問題を二段階最適化として表現する：上位段階で検出器パラメータが選択され、下位段階で攻撃者の最適反応が計算される。
• KKT条件を適用して二段階計画を単一段階の最適化問題に縮約する。
• 明示的および暗黙の勾配情報の両方を用いた投影勾配降下法を導出し、効率的な最適化を実現する。
• 攻撃ノードが既知である制限付きバージョンの解を活用することで、全問題をヒューリスティックに解く手法を採用する。

実験結果

リサーチクエスチョン

• RQ1 検出器設計にネットワーク構造を組み込むことで、SNSにおける悪用的コンテンツ検出のパフォーマンスがどの程度向上するか？
• RQ2 戦略的攻撃者が存在する状況下で、コンテンツ依存の拡散が検出戦略の有効性に与える影響は何か？
• RQ3 攻撃的コンテンツの進化に伴い、防御者が異種でノード固有の検出戦略を採用することは、均質的またはパーソナライズドしきい値アプローチを上回るか？
• RQ4 防御者が悪用的コンテンツ変更を予測・対応できることで、全体的なネットワークレベルの保護がどの程度向上するか？
• RQ5 暗黙の勾配を用いた二段階最適化フレームワークは、標準的な悪用的訓練や再訓練手法と比較して、どの程度耐性が向上するか？

主な発見

• 提案手法は、すべてのベースライン（均質的分類、悪用的再訓練、パーソナライズドしきい値チューニング）を顕著に上回り、攻撃者の予算が高い場合に顕著に優位性を示す。
• 攻撃者予算が ε = 0.01 の場合、提案手法と他の手法との間で性能差が顕著に拡大し、強力な耐性を示している。
• スケールフリー（Barabási-Albert）ネットワークでは、次数の不均一性がノード固有の検出戦略の価値を顕著に高めるため、提案手法は顕著な耐性を示した。
• パーソナライズドしきい値チューニングは完全再訓練を上回った。これは、ネットワーク構造の認識が、単に悪用的耐性を確保することよりも重要であることを示唆している。
• スモールワールドネットワークでは、スケールフリーネットワークほど劣化が顕著ではなかったが、依然として他の手法に顕著な改善を示した。
• 提案手法はBAネットワークおよびスモールワールドネットワークの両方で優れたパフォーマンスを維持し、多様なネットワーク構造への一般化能力を確認した。