[논문 리뷰] Network disruption: maximizing disagreement and polarization in social networks

Mayee F. Chen, Miklós Z. Rácz|arXiv (Cornell University)|2020. 03. 18.

Opinion Dynamics and Social Influence참고 문헌 17인용 수 6

한 줄 요약

이 논문은 사회적 네트워크에서 일부 사용자 프로필을 점거하여 갈등과 극단화를 최대화하는 적대적 모델을 제안한다. 프리드킨-존슨센 의견 동역학 모델을 사용하여, 단순한 히우리스틱(예: 중도자들 타겟팅)조차도 극단화와 갈등을 선형적으로 증가시킬 수 있음을 보여주며, 이는 사회적 네트워크가 저수준의 공격에 매우 취약함을 시사한다.

ABSTRACT

Recent years have seen a marked increase in the spread of misinformation, a phenomenon which has been accelerated and amplified by social media such as Facebook and Twitter. While some actors spread misinformation to push a specific agenda, it has also been widely documented that others aim to simply disrupt the network by increasing disagreement and polarization across the network and thereby destabilizing society. Popular social networks are also vulnerable to large-scale attacks. Motivated by this reality, we introduce a simple model of network disruption where an adversary can take over a limited number of user profiles in a social network with the aim of maximizing disagreement and/or polarization in the network. We investigate this model both theoretically and empirically. We show that the adversary will always change the opinion of a taken-over profile to an extreme in order to maximize disruption. We also prove that an adversary can increase disagreement / polarization at most linearly in the number of user profiles it takes over. Furthermore, we present a detailed empirical study of several natural algorithms for the adversary on both synthetic networks and real world (Reddit and Twitter) data sets. These show that even simple, unsophisticated heuristics, such as targeting centrists, can disrupt a network effectively, causing a large increase in disagreement / polarization. Studying the problem of network disruption through the lens of an adversary thus highlights the seriousness of the problem.

연구 동기 및 목표

• 적대자가 사용자 프로필을 제한적으로 제어하여 갈등과 극단화를 증가시켜 사회적 네트워크를 어떻게 혼란스럽게 할 수 있는지 조사한다.
• 효과적인 네트워크 혼란을 위해 정교한 전략이 필요한지, 아니면 단순한 히우리스틱으로도 충분한지 평가한다.
• 다양한 네트워크 구조와 의견 동역학 하에서 이러한 혼란의 이론적 및 실증적 한계를 이해한다.
• 이러한 발견이 네트워크 수준의 조작에 대비한 방어 메커니즘 설계에 미치는 영향을 탐색한다.
• 실제 네트워크 데이터(레딧, 트위터)와 다양한 의견 동역학 모델에서 결과의 강건성(내구성)을 평가한다.

제안 방법

• 사용자들을 정점으로, 사회적 유대를 간선으로, 간선 가중치를 유대 강도로 하는 가중치가 있는 그래프 $G = (V, E, w)$로 사회적 네트워크를 모델링한다.
• 각 사용자에게 고유한 의견 $s_v \in [0,1]$를 할당하고, 가중치가 있는 라플라스 행렬 $L$을 사용하여 평형 의견 $z = (I + L)^{-1}s$를 계산하는 프리드킨-존슨센 모델을 적용한다.
• 갈등 $D = \sum_{(u,v)\in E} w_{uv}(z_u - z_v)^2$ 와 극단화 $P = \sum_{v\in V}(z_v - \overline{z})^2$ 를 네트워크 혼란의 핵심 지표로 정의한다.
• 적대자를 최대 $k$개의 노드를 점거하고, 그들의 고유 의견 $s_v$ 를 극단적인 값(0 또는 1)으로 변경하여 $D$ 와 $P$ 를 최대화할 수 있도록 모델링한다.
• 합성 네트워크와 실제 레딧 및 트위터 데이터셋에서 여러 히우리스틱(그리디, 중심성 기반, 무작위, 평균 의견 기반)을 실증적으로 평가한다.
• 다양한 $k$ 값에서의 통합 혼란 성능 평가를 위해 가중치 합 목표함수 $\lambda D + (1-\lambda)P$ 를 사용한다.

실험 결과

연구 질문

• RQ1 적대자가 제한된 수의 손상된 사용자 프로필을 사용하여 네트워크 갈등과 극단화를 크게 증가시킬 수 있는가?
• RQ2 효과적인 혼란을 위해 정교한 타겟팅이 필수적인가, 아니면 단순한 히우리스틱(예: 중도자나 무작위 노드 타겟팅)으로도 충분한가?
• RQ3 다양한 네트워크 구조에서 손상된 노드 수($k$)가 증가함에 따라 혼란 히우리스틱의 성능은 어떻게 변화하는가?
• RQ4 다양한 의견 동역학 모델과 실제 사회적 네트워크 구조에서 결과는 어떻게 달라지는가?
• RQ5 적대자가 달성할 수 있는 갈등과 극단화의 최대 증가 폭에 대한 이론적 한계는 무엇인가?

주요 결과

• 손상된 노드의 고유 의견을 극단적인 값(0 또는 1)으로 설정함으로써 항상 혼란을 최대화할 수 있으며, 이는 의견 분산과 간선 수준의 갈등을 극대화하기 때문이다.
• 갈등과 극단화의 최대 증가는 손상된 노드 수 $k$에 대해 선형으로 증가하며, 이는 혼란 가능성에 대한 이론적 상한선을 설정한다.
• 레딧 데이터셋에서 단지 20개의 노드(전체 네트워크의 3.6%)를 손상시켰을 뿐인데도 갈등은 10배 이상 증가(0.09에서 1.14로), 극단화도 10배 이상 증가(0.07에서 0.72로)하였다.
• 그리디 히우리스틱은 모든 지표와 데이터셋에서 일관되게 다른 방법들을 능가했으며, 작은 $k$ 값에서도 강력한 실증적 효과를 보였다.
• 단순한 히우리스틱(무작위 또는 평균 의견 기반 타겟팅)이 중도적이고 밀도 높은 의견 분포를 가진 네트워크에서는 더 복잡한 전략과 비교해 유사한 성능을 보였다.
• 결과는 낮은 수준의 전략적 숙련도로도 네트워크 혼란이 매우 실현 가능함을 시사하며, 사회적 네트워크가 저비용 적대적 공격에 매우 취약함을 강조한다.