[논문 리뷰] Finding Online Extremists in Social Networks

Jytte Klausen, Christopher Marks외 1명|arXiv (Cornell University)|2016. 10. 19.

Spam and Phishing Detection참고 문헌 13인용 수 10

한 줄 요약

이 논문은 플랫폼 협력 없이도 소셜 네트워크 내에서 온라인 극단주의자들을 탐지하고 추적하기 위한 데이터 기반 프레임워크를 제안한다. 계정 유사성, 정지 후 네트워크 재연결, 친구의 친구 재연결과 같은 행동 패턴을 모델링함으로써 일반화된 폴리아의 우산 모델을 기반으로 예측 모델과 최적화된 검색 정책을 개발하여, 무작위 또는 탐욕적 접근 방식에 비해 정지된 극단주의자들의 새로운 계정을 보다 높은 효율로 발견하는 데 성공한다.

ABSTRACT

Online extremists in social networks pose a new form of threat to the general public. These extremists range from cyberbullies who harass innocent users to terrorist organizations such as the Islamic State of Iraq and Syria (ISIS) that use social networks to recruit and incite violence. Currently social networks suspend the accounts of such extremists in response to user complaints. The challenge is that these extremist users simply create new accounts and continue their activities. In this work we present a new set of operational capabilities to deal with the threat posed by online extremists in social networks. Using data from several hundred thousand extremist accounts on Twitter, we develop a behavioral model for these users, in particular what their accounts look like and who they connect with. This model is used to identify new extremist accounts by predicting if they will be suspended for extremist activity. We also use this model to track existing extremist users as they create new accounts by identifying if two accounts belong to the same user. Finally, we present a model for searching the social network to efficiently find suspended users' new accounts based on a variant of the classic Polya's urn setup. We find a simple characterization of the optimal search policy for this model under fairly general conditions. Our urn model and main theoretical results generalize easily to search problems in other fields.

연구 동기 및 목표

• 플랫폼 협력에 의존하지 않고 소셜 네트워크 내 온라인 극단주의자를 식별하고 추적할 수 있는 능력을 개발하는 것.
• 내용을 게재하지 않더라도 사전 컨텐츠 행동 특징을 바탕으로 계정이 극단주의 활동로 인해 정지될지를 예측하는 것.
• 프로필 및 네트워크 유사성에 기반해 여러 계정을 동일한 극단주의자 사용자로 연결하는 것.
• 정지된 사용자가 새로운 계정을 생성한 후 이전 친구들과 재연결할 가능성이 높은 대상을 예측하는 것.
• 네트워크 구조와 확률 모델링을 활용해 정지된 극단주의자들의 새로운 계정을 효율적으로 검색할 수 있는 정책을 설계하는 것.

제안 방법

• ISIS와 관련된 36만 개의 정지된 트위터 계정 데이터를 활용해 극단주의자 계정의 행동 모델을 구축한다.
• 부재한 위치 정보, 팔로워 수, 연결 패턴과 같은 프로필 및 네트워크 특징을 사용해 향후 정지를 예측한다.
• 일반화된 폴리아의 우산 모델을 적용하여 정지된 사용자의 새로운 계정을 찾는 검색 과정을 수학적으로 형식화한다.
• 재연결 확률이 높고 팔로워 수가 적은 이전 친구들을 우선순위로 쿼리하는 최적의 검색 정책을 유도한다.
• 성능 비교를 위해 탐욕적 정책과 Min-N 정책을 벤치마크로 사용한다.
• 검색 효율성과 정확성의 균형을 위해 존재 가능성 임계값(ρ̄ > 0)을 기반으로 종료 기준을 도입한다.

실험 결과

연구 질문

• RQ1 내용을 게재하지 않더라도, 극단주의 컨텐츠로 인한 정지 여부를 사전 행동 특징을 바탕으로 예측할 수 있는가?
• RQ2 행동 및 네트워크 특징을 기반으로 여러 계정을 동일한 극단주의자 사용자로 정확하게 연결할 수 있는가?
• RQ3 정지된 극단주의자 사용자의 새로운 계정을 찾기 위해 소셜 네트워크를 검색하는 최적의 전략은 무엇인가?
• RQ4 극단주의자들이 이전 친구들과 재연결하는 행동이 검색 효율성에 어떤 영향을 미치는가?
• RQ5 확률적 존재 가능성 임계값의 포함 여부가 검색 정책의 최적성에 어떤 영향을 미치는가?

주요 결과

• 최적의 검색 정책은 랜덤 또는 탐욕적 정책 대비 정지된 극단주의자 사용자의 새로운 계정을 찾는 데 필요한 쿼리 수를 최대 50% 감소시켰다.
• 최적의 정책은 이전 친구들과 40%의 재연결률을 기록했으며, 첫 번째 재연결 가능성이 높고 팔로워 수가 적은 이전 친구를 쿼리함으로써 테스트된 15개의 계정 쌍 전부에서 목표를 성공적으로 발견했다.
• 탐욕적 및 최적 정책은 무작위 정책보다 뛰어난 성능을 보였으며, 성공 전 기대 실패 수가 이론적 기하분포(1.5회의 기대 실패)와 매우 유사했다.
• Min-N 정책는 최적 정책과 거의 유사한 성능을 보여, 실질적 구현에서의 강건성을 입증했다.
• 최적 정책는 존재 가능성 임계값(ρ̄ > 0)이 도입된 상황에서도 효과를 유지했지만, 초기 확률 ρ₀가 조건부 확률과 검색 결과에 상당한 영향을 미쳤다.
• 행동 모델과 검색 프레임워크는 ISIS나 트위터에 특화되지 않은 채로 다양한 극단주의 집단과 소셜 네트워크에 일반화 가능하다.