[논문 리뷰] The Dynamics of Offensive Messages in the World of Social Media: the Control of Cyberbullying on Twitter

Krystal Blanco, Aida Briceno외 5명|arXiv (Cornell University)|2014. 07. 31.

Bullying, Victimization, and Aggression참고 문헌 21인용 수 3

한 줄 요약

이 논문은 트위터에서 '격리' 메커니즘을 통해 사용자 상호작용을 제한함으로써 악성 메시지 확산을 억제하기 위한 이산시간 비선형 분할 모델을 제안한다. 분석 조건에 따르면, 격리 강도가 임계 임계값을 초과할 경우, 가해자 수에 관계없이 악성 메시지 수준이 즉시 감소함을 입증한다.

ABSTRACT

The 21st century has redefined the way we communicate, our concept of individual and group privacy, and the dynamics of acceptable behavioral norms. The messaging dynamics on Twitter, an internet social network, has opened new ways/modes of spreading information. As a result cyberbullying or in general, the spread of offensive messages, is a prevalent problem. The aim of this report is to identify and evaluate conditions that would dampen the role of cyberbullying dynamics on Twitter. We present a discrete-time non-linear compartmental model to explore how the introduction of a Quarantine class may help to hinder the spread of offensive messages. We based the parameters of this model on recent Twitter data related to a topic that communities would deem most offensive, and found that for Twitter a level of quarantine can always be achieved that will immediately suppress the spread of offensive messages, and that this level of quarantine is independent of the number of offenders spreading the message. We hope that the analysis of this dynamic model will shed some insights into the viability of new models of methods for reducing cyberbullying in public social networks.

연구 동기 및 목표

• 트위터에서 악성 메시지 확산의 동역학, 특히 사이버 브ูล링을 조사하기 위해.
• 악성 메시지 확산을 억제하는 데 있어 격리 메커니즘이 얼마나 효과적인지 평가하기 위해.
• 사용자 간의 비선형 상호작용을 반영하는 수학적 모델을 개발하기 위해.
• 악성 메시지 수준이 시간이 지남에 따라 감소하는 조건을 규명하기 위해.
• 사용자 수준의 격리 조치를 통해 사이버 브울링 제어를 효과적으로 달성할 수 있는 분석 조건을 제공하기 위해.

제안 방법

• 전염병 SIR 유형의 역학을 기반으로 하되, 소셜 미디어 메시지 확산에 적합하게 조정된 이산시간 비선형 분할 모델을 개발한다.
• 사용자 상호작용 능력이 제한된 사용자를 나타내는 '격리' 클래스를 도입하며, 접촉 빈도 감소를 통해 모델링한다.
• 악성 주제에 관한 실제 트위터 데이터에서 유도된 매개변수를 사용하여 모델의 전파 및 억제 속도를 校정한다.
• 수학적 분석을 통해 악성 메시지 확산자 수(O_t)가 시간이 지남에 따라 감소하는 조건을 유도한다.
• 사용자 참여와 메시지 전파를 모델링하기 위해 지수 감쇠 함수를 사용하며, $ e^{-kO_t/N} $과 같은 항은 격리로 인한 영향 감소를 나타낸다.
• 악성 메시지 확산이 억제됨을 보장하는 분석 임계값(예: $ Z = \frac{k(1-\alpha)}{1-\lambda} < 1 $)을 유도한다.

실험 결과

연구 질문

• RQ1 어떤 조건에서 격리 메커니즘이 트위터에서 악성 메시지 확산을 효과적으로 억제할 수 있는가?
• RQ2 격리 수준이 악성 메시지 유포 속도에 어떤 영향을 미치는가?
• RQ3 악성 메시지 억제가 초깃수의 공격자 수와 독립적인가?
• RQ4 악성 메시지 확산자 수가 시간이 지남에 따라 감소하는 데 필요한 수학적 조건은 무엇인가?
• RQ5 사용자 상호작용 패턴과 네트워크 구조는 격리 개입의 효과성에 어떤 영향을 미치는가?

주요 결과

• 충분한 수준의 격리가 존재할 경우, 초깃수의 공격자 수에 관계없이 트위터에서 악성 메시지 확산을 항상 억제할 수 있다.
• 모델는 격리 임계값 $ Z = \frac{k(1-\alpha)}{1-\lambda} < 1 $일 경우, 악성 메시지 확산자 수 $ O_t $ 가 시간이 지남에 따라 감소함을 보여준다.
• 조건 $ k(1-\alpha) < 1 $ 및 $ \lambda \leq 1 - k(1-\alpha) $ 가 성립할 경우 $ O_{t+1} < O_t $ 가 보장되어 억제가 이루어진다.
• 억제 효과는 즉각적이며, 공격자 인구의 초깃값에 의존하지 않아 격리 메커니즘의 강건성을 시사한다.
• 모델는 제안된 격리 정책 하에서 악성 메시지를 확산하는 사용자 수가 단조롭게 감소함을 확인한다.
• 분석 결과는 조절이 잘 된 격리 조치가 존재할 경우, 초깃수의 확산자 수가 많더라도 메시지 확산을 완전히 정지시킬 수 있음을 보여준다.