[논문 리뷰] A cooperate-defect model for the spread of deviant behavior in social networks

Sarah Rajtmajer, Christopher Griffin외 2명|arXiv (Cornell University)|2014. 08. 12.

Opinion Dynamics and Social Influence참고 문헌 17인용 수 4

한 줄 요약

이 논문은 온라인 소셜 네트워크에서 유저가 보상 비교에 기반해 협력 또는 배신 전략을 채택함으로써 악성 행동의 확산을 시뮬레이션하기 위해 포로의 딜레마를 사용하는 게임 이론 모델을 제안한다. 이 모델은 안정된 행동 패턴으로 수렴하며, 지속되거나 악성 행동이 증가하는 유저에 대해 강력한 예측 정확도를 보이지만, 협력으로 향하는 경미한 이동은 과소평가한다.

ABSTRACT

We present a game-theoretic model for the spread of deviant behavior in online social networks. We utilize a two-strategy framework wherein each player's behavior is classified as normal or deviant and evolves according to the cooperate-defect payoff scheme of the classic prisoner's dilemma game. We demonstrate convergence of individual behavior over time to a final strategy vector and indicate counterexamples to this convergence outside the context of prisoner's dilemma. Theoretical results are validated on a real-world dataset collected from a popular online forum.

연구 동기 및 목표

• 온라인 커뮤니티에서 반사회적이고 이단적 행동의 확산에 기여하는 역학을 이해하기 위해.
• 사용자 행동이 온라인 네트워크 내에서 사회적 영향과 보상 구조에 어떻게 반응하여 변화하는지 모델링하기 위해.
• 실제 온라인 포럼에서 확보한 실세계 데이터와 비교하여 이론적 진화 게임 모델을 검증하기 위해.
• 협력-배신 프레임워크의 예측 능력이 시간에 따라 행동 변화를 설명하는 데 얼마나 유용한지 평가하기 위해.
• 포로의 딜레마 모델이 특히 협력으로 향하는 미세한 행동 전환을 포착하는 데에 한계를 보이는 이유를 탐색하기 위해.

제안 방법

• 사회적 네트워크 그래프 상에서 이원 전략 진화 게임을 정의하며, 각 사용자는 협력 또는 이단적(배신적) 행동 중 하나를 선택한다.
• 보상은 고전적인 포로의 딜레마 구조를 따르며, 타인이 협력할 경우 배신자가 더 높은 보상을 얻는다.
• 사용자는 동료의 관찰된 보상에 기반해 전략을 업데이트하며, 더 높은 보상을 얻는 전략을 모방함으로써 전략을 변경한다.
• 모델은 시간이 지남에 따라 안정된 전략 벡터로 수렴하며, 완전 그래프에 대해서는 수학적으로 수렴이 증명되었고, 일반적인 경우는 실험적으로 확인되었다.
• 스레드형 온라인 포럼에서 확보한 실세계 데이터셋을 사용하였으며, 사용자들의 악성 행동 수준이 시간에 따라 레이블링되고 추적되었다.
• 악성 행동 수준은 표준편차를 기반으로 구간화되었고, 예측된 행동 변화와 실제 행동 변화 간의 오차를 최소화하도록 보상 행렬이 피팅되었다.

실험 결과

연구 질문

• RQ1 보상 기반의 모방 메커니즘 하에서 악성 행동은 어떻게 사회 네트워크를 통해 확산되는가?
• RQ2 포로의 딜레마 프레임워크는 온라인 커뮤니티에서 개인의 행동 변화를 얼마나 정확하게 예측하는가?
• RQ3 협력-배신 모델은 특히 협력으로 향하는 미세한 행동 전환을 포착하는 데에 어떤 한계를 지니는가?
• RQ4 균일한 보상 구조를 가진 게임 이론 모델이 시간에 따라 실제 사용자 악성 행동 변화를 설명할 수 있는가?
• RQ5 이 모델은 악성 행동 수준이 유지되거나 증가하거나 감소하는 사용자를 얼마나 잘 예측하는가?

주요 결과

• 모델은 악성 행동 수준이 약간도 변하지 않는 사용자를 분류하는 데 83%의 정확도를 기록하여 안정된 행동에 대해 뛰어난 성능을 보였다.
• 모델은 악성 행동이 크게 증가하는 사용자를 예측하는 데 합리적으로 효과적이며, 포로의 딜레마에서 배신 전략의 유혹성 반영을 보였다.
• 모델은 악성 행동의 경미한 증가를 체계적으로 과소평가하며, 극단적인 비악성 행동으로의 전환(즉, 0번 구간에서 +2번 구간으로의 이동)을 크게 예측하지 못한다.
• 포로의 딜레마의 엄격한 내쉬 균형이 배신을 선호하지만, 모델은 더 협력적인 행동 양식의 출현을 포착할 잠재력을 보이며, 이는 사회적 행동 전환을 모델링할 수 있음을 시사한다.
• 혼동 행렬을 분석한 결과, 가장 비악성 구간으로 이동할 것으로 예측된 사용자 중 48.5%가 실제로 +2 구간에 있었으며, 이는 극단적 협력의 수요가 현저히 부족함을 시사한다.
• 최적의 피팅 보상 행렬은 [[0.1985, -0.6989], [0.4927, 0.0001]]로, 예측된 행동과 관찰된 행동 간의 제곱 오차 합을 최소화하도록 추정되었다.