[논문 리뷰] Anyone Can Become a Troll: Causes of Trolling Behavior in Online Discussions

Justin Cheng, Michael S. Bernstein외 2명|arXiv (Cornell University)|2017. 02. 03.

Social Media and Politics인용 수 108

한 줄 요약

이 논문은 부정적 기분과 이전 트롤 포스트 노출이 트롤링 경향을 증가시킨다는 것을 보여주며, 통제 온라인 실험과 대규모 CNN.com 데이터셋을 활용하고 예측 모델(AUC 0.78)을 제시한다. 트롤링은 타고난 것이 아니라 상황에 크게 좌우된다는 것을 시사한다.

ABSTRACT

In online communities, antisocial behavior such as trolling disrupts constructive discussion. While prior work suggests that trolling behavior is confined to a vocal and antisocial minority, we demonstrate that ordinary people can engage in such behavior as well. We propose two primary trigger mechanisms: the individual's mood, and the surrounding context of a discussion (e.g., exposure to prior trolling behavior). Through an experiment simulating an online discussion, we find that both negative mood and seeing troll posts by others significantly increases the probability of a user trolling, and together double this probability. To support and extend these results, we study how these same mechanisms play out in the wild via a data-driven, longitudinal analysis of a large online news discussion community. This analysis reveals temporal mood effects, and explores long range patterns of repeated exposure to trolling. A predictive model of trolling behavior shows that mood and discussion context together can explain trolling behavior better than an individual's history of trolling. These results combine to suggest that ordinary people can, under the right circumstances, behave like trolls.

연구 동기 및 목표

• 온라인 토론에서 일반 사용자가 왜 트롤링에 참여하는지 이해를 자극한다.
• 트롤링 경향에 영향을 주는 두 가지 트리거 메커니즘—사용자 기분과 토론 맥락—을 식별한다.
• 기분과 맥락이 트롤링 행동에 미치는 인과 효과를 실험적으로 확립한다.
• 주요 뉴스 토론 사이트의 대규모 관찰 데이터로 발견을 검증한다.
• 기분과 맥 context를 기반으로 트롤링 가능성을 평가하는 예측 모델을 개발한다.

제안 방법

• 참가자의 기분(긍정 대 부정)과 토론 맥락(초기 트롤 대 무해한 게시물)을 변화시키는 2x2 온라인 실험을 수행한다.
• expert labeling과 LIWC 기반 부정 정서를 사용해 트롤링 행동과 감정을 측정한다.
• 경로 의존성 제어와 독립적인 토론 환경을 보장하기 위해 무작위, 다중 세계 설계를 사용한다.
• NegMood와 NegContext의 트롤링 가능성에 대한 효과를 평가하기 위해 혼합 효과 로지스틱 회귀를 수행한다.
• 기분과 토론 맥 context를 예측 변수로 사용하여 트롤링을 예측하는 대규모의 종단 분석(CNN.com 토론 165만 게시물)을 보강한다.
• 기분과 토론 맥 context를 예측 변수로 사용하여 트롤링 가능성을 예측하는 로지스틱 회귀 모델을 구축하고 평가한다(AUC = 0.78).

실험 결과

연구 질문

• RQ1 부정적 기분이 사용자가 트롤링 콘텐츠를 게시할 가능성을 높일 수 있는가?
• RQ2 토론 맥 context에서의 이전 트롤 포스트 노출이 트롤링 경향을 높이는가?
• RQ3 기분과 토론 맥 context가 트롤링 행동에 상호작용하는가?
• RQ4 실제 데이터에서 트롤링이 사용자와 토론 간에 전염되는가?
• RQ5 기분과 맥 context가 사용자의 트롤링 이력과 비교했을 때 트롤링 행동을 얼마나 잘 예측하는가?

주요 결과

• 부정적 기분은 트롤링 확률을 89% 증가시킨다.
• 토론에서 이전 트롤 포스트의 존재는 트롤링 확률을 68% 증가시킨다.
• 실험에서 부정적 기분과 부정적 맥 context의 조합이 기본 트롤링 비율을 두 배로 만든다.
• CNN.com 데이터에서 4분의 1의 표시된 게시물이 이전 플래그 이력이 없는 사용자로부터 나온 것으로, 일반 사용자도 트롤링에 기여한다는 것을 시사한다.
• 트롤링 경향은 인구의 기분 변동을 시간에 따라 추적하며 토론 간에 지속성과 소멸 패턴을 보인다.
• 기분과 토론 맥 context를 사용하는 로지스틱 회귀 모델은 트롤링 행동 예측에서 AUC = 0.78을 달성한다.