[論文レビュー] Network disruption: maximizing disagreement and polarization in social networks

Mayee F. Chen, Miklós Z. Rácz|arXiv (Cornell University)|Mar 18, 2020

Opinion Dynamics and Social Influence参考文献 17被引用数 6

ひとこと要約

本稿では、敵対的攻撃者がソーシャルネットワーク内の限定的な数のユーザープロフィールを乗っ取ることで、意見の不一致と極端化を最大化する、ネットワーク遮断の敵対的モデルを提示する。Friedkin-Johnsenの意見動的モデルを用いて、中心的意見を持つユーザーを標的とすることなどの単純なヒューリスティクスですら、極端化と不一致を線形に増加させることを示しており、これは、低技術的攻撃に対してソーシャルネットワークが極めて脆弱であることを示している。

ABSTRACT

Recent years have seen a marked increase in the spread of misinformation, a phenomenon which has been accelerated and amplified by social media such as Facebook and Twitter. While some actors spread misinformation to push a specific agenda, it has also been widely documented that others aim to simply disrupt the network by increasing disagreement and polarization across the network and thereby destabilizing society. Popular social networks are also vulnerable to large-scale attacks. Motivated by this reality, we introduce a simple model of network disruption where an adversary can take over a limited number of user profiles in a social network with the aim of maximizing disagreement and/or polarization in the network. We investigate this model both theoretically and empirically. We show that the adversary will always change the opinion of a taken-over profile to an extreme in order to maximize disruption. We also prove that an adversary can increase disagreement / polarization at most linearly in the number of user profiles it takes over. Furthermore, we present a detailed empirical study of several natural algorithms for the adversary on both synthetic networks and real world (Reddit and Twitter) data sets. These show that even simple, unsophisticated heuristics, such as targeting centrists, can disrupt a network effectively, causing a large increase in disagreement / polarization. Studying the problem of network disruption through the lens of an adversary thus highlights the seriousness of the problem.

研究の動機と目的

• 敵対的攻撃者が、ユーザープロフィールの制限的制御を用いて、意見の不一致と極端化を高めることでソーシャルネットワークをどのように破壊できるかを調査すること。
• 効果的なネットワーク遮断には洗練された戦略が必要か、それとも単純なヒューリスティクスで十分かを評価すること。
• 異なるネットワーク構造と意見動的モデル下での、このような遮断の理論的・実証的限界を理解すること。
• これらの発見が、ネットワークレベルの操作に対する防御メカニズムの設計に与えるインパクトを明らかにすること。
• 実世界のネットワークデータ（Reddit、Twitter）と異なる意見動的モデルにおける、結果の頑健性を評価すること。

提案手法

• ソーシャルネットワークを重み付きグラフ $G = (V, E, w)$ としてモデル化し、頂点はユーザーを表し、辺は社会的つながりを表し、辺の重みは結束の強さを示す。
• 各ユーザーに固有の意見 $s_v \in [0,1]$ を割り当て、Friedkin-Johnsenモデルを用いて均衡意見 $z = (I + L)^{-1}s$ を計算する。ここで $L$ は重み付きラプラシアン行列である。
• ネットワーク遮断の主要指標として、不一致 $D = \sum_{(u,v)\in E} w_{uv}(z_u - z_v)^2$ と極端化 $P = \sum_{v\in V}(z_v - \overline{z})^2$ を定義する。
• 敵対的攻撃者を、最大 $k$ 個のノードを乗っ取り、その固有意見 $s_v$ を極端な値（0 または 1）に変更することで、$D$ と $P$ を最大化できるものとしてモデル化する。
• 合成ネットワークおよび実世界のRedditとTwitterのデータセットを用いて、複数のヒューリスティクス（貪欲法、中心性ベース、ランダム、平均意見ベース）を実証的に評価する。
• 異なる $k$ 値における統合的遮断性能を評価するため、重み付き和の目的関数 $\lambda D + (1-\lambda)P$ を用いる。

実験結果

リサーチクエスチョン

• RQ1 敵対的攻撃者が、わずかに制限された数の乗っ取り済みユーザープロフィールを用いて、ネットワークの不一致と極端化を著しく増加させられるか？
• RQ2 効果的な遮断には洗練された標的指定が必要か、それとも単純なヒューリスティクス（例：中心的意見を持つユーザーを標的とすることやランダムなノード選択）で十分か？
• RQ3 異なるネットワークトポロジーにおいて、遮断ヒューリスティクスの性能は、乗っ取り済みノード数（$k$）の増加に伴いどのようにスケーリングされるか？
• RQ4 異なる意見動的モデルと実世界のソーシャルネットワーク構造において、結果はどのように変化するか？
• RQ5 敵対的攻撃が達成可能な不一致と極端化の最大増加の理論的限界は何か？

主な発見

• 敵対的攻撃者は、常に乗っ取り済みノードの固有意見を極端な値（0 または 1）に設定することで、意見の分散とエッジレベルの不一致を最大化する。
• 不一致と極端化の最大増加は、乗っ取り済みノード数 $k$ に対して線形であることが示され、遮断の潜在的限界に対する理論的上限が確立された。
• Redditデータセットでは、わずか20ノード（ネットワーク全体の3.6％）を乗っ取るだけで、不一致が10倍以上（0.09 から 1.14 へ）、極端化も10倍以上（0.07 から 0.72 へ）増加した。
• 貪欲法ヒューリスティクスは、すべての指標とデータセットで一貫して他の手法を上回り、小さな $k$ に対しても強い実証的有効性を示した。
• 単純なヒューリスティクス（ランダムまたは平均意見ベース）は、中立的かつ密に固まった意見分布を示すネットワークでは、より洗練された戦略と同等の性能を示した。
• これらの結果は、極端に低い技術的水準の攻撃でもネットワーク遮断が容易に実現可能であり、ソーシャルネットワークが低コストの敵対的攻撃に対して極めて脆弱であることを示唆している。