[논문 리뷰] Solutions to Detect and Analyze Online Radicalization : A Survey

Denzil Correa, Ashish Sureka|arXiv (Cornell University)|2013. 01. 21.

Misinformation and Its Impacts참고 문헌 39인용 수 36

한 줄 요약

이 종합 검토는 2003~2011년 사이에 발표된 40篇의 논문을 대상으로 텍스트, 이미지, 비디오 등 다양한 모odal을 포함한 트위터, 페이스북, 유튜브 등의 소셜미디어 플랫폼에서의 온라인 급진화 자동 탐지 및 분석에 대해 다룬다. 본 논문은 기술, 모달리티, 데이터 유형, 특징 유형, 평가 방법, 분석 방법을 기반으로 한 새로운 다단계 분류 체계를 제안하며, 활동 기반 탐지, 페이스북/트위터 마이닝, 극단주의 네트워크 내 동적 커뮤니티 탐지 분야의 주요 연구 격차를 밝혀낸다.

ABSTRACT

Online Radicalization (also called Cyber-Terrorism or Extremism or Cyber-Racism or Cyber- Hate) is widespread and has become a major and growing concern to the society, governments and law enforcement agencies around the world. Research shows that various platforms on the Internet (low barrier to publish content, allows anonymity, provides exposure to millions of users and a potential of a very quick and widespread diffusion of message) such as YouTube (a popular video sharing website), Twitter (an online micro-blogging service), Facebook (a popular social networking website), online discussion forums and blogosphere are being misused for malicious intent. Such platforms are being used to form hate groups, racist communities, spread extremist agenda, incite anger or violence, promote radicalization, recruit members and create virtual organi- zations and communities. Automatic detection of online radicalization is a technically challenging problem because of the vast amount of the data, unstructured and noisy user-generated content, dynamically changing content and adversary behavior. There are several solutions proposed in the literature aiming to combat and counter cyber-hate and cyber-extremism. In this survey, we review solutions to detect and analyze online radicalization. We review 40 papers published at 12 venues from June 2003 to November 2011. We present a novel classification scheme to classify these papers. We analyze these techniques, perform trend analysis, discuss limitations of existing techniques and find out research gaps.

연구 동기 및 목표

• 2003년부터 2011년까지의 기간 동안 온라인 급진화 자동 탐지 및 분석에 관한 기존 연구를 체계적으로 검토하고 분류하는 것.
• 비구조적, 노이즈가 많고 동적인 사용자 생성 콘텐츠로 인해 혐오, 극단주의, 사이버테러리즘 콘텐츠 탐지에 직면한 기술적 과제를 규명하는 것.
• 기술, 모달리티, 데이터 유형, 특징, 평가, 출력 기반으로 문헌을 체계화할 수 있는 새로운 다단계 분류 프레임워크를 제안하는 것.
• 콘텐츠 기반, 링크 기반, 네트워크 기반 접근법을 포함한 탐지 및 분석 방법의 추세를 분석하는 것.
• 활동 기반 탐지, 미충분한 연구가 이루어진 모달리티(예: 트위터, 페이스북), 그리고 극단주의 네트워크 내 동적 커뮤니티 탐지 분야의 해결되지 않은 연구 격차를 규명하는 것.

제안 방법

• 2003년 6월부터 2011년 11월까지 발표된 12개의 학술지에서 출판된 40篇의 논문을 대상으로 체계적 문헌 검토를 수행하였다.
• 온라인 급진화 탐지와 온라인 급진화 분석이라는 두 주요 영역을 기반으로 한 15개의 요소를 포함하는 새로운 다단계 분류 체계를 개발하였다.
• 탐지 분야의 8개 요소(예: 기술, 모달리티, 데이터 유형, 특징, 평가, 출력, 언어, 장르)와 분석 분야의 6개 요소(예: 분석 유형, 네트워크/콘텐츠 기반, 모달리티, 언어, 장르)를 기반으로 논문을 분류하였다.
• 기여도 기반의 인용 빈도와 시계열 시각화를 활용한 추세 분석을 통해 주요 연구 방향성과 시간에 따른 변화를 규명하였다.
• 콘텐츠 기반, 링크 기반, 네트워크 기반 접근법의 강점과 한계에 중점을 두고 비교 분석을 통해 기존 기술의 평가를 수행하였다.
• 활동 기반 특징, 페이스북 마이닝, 그리고 극단주의 네트워크에 공식적인 커뮤니티 탐지 알고리즘을 적용한 분야의 미충분한 연구 영역를 분석하여 연구 격차를 규명하였다.

실험 결과

연구 질문

• RQ1 2003년부터 2011년까지 온라인 급진화 자동 탐지에 사용된 주요 기술, 모달리티, 데이터 유형은 무엇인가?
• RQ2 콘텐츠 기반, 링크 기반, 네트워크 기반 접근법은 극단주의 콘텐츠 탐지에서 효과성과 한계에서 어떻게 다를까?
• RQ3 공식적인 커뮤니티 탐지 알고리즘이 극단주의 네트워크에 얼마나 적용되었는가? 그리고 이 분야가 왜 미충분한 연구 영역로 간주되는가?
• RQ4 온라인 콘텐츠의 동적, 匿명성, 다중모달리티 성격을 감안할 때, 급진화 탐지에 직면한 주요 기술적 과제는 무엇인가?
• RQ5 트위터, 페이스북 등 어떤 소셜미디어 플랫폼이 온라인 급진화 탐지 분야에서 여전히 미충분한 연구 대상으로 남아 있는가?

주요 결과

• 혐오를 조장하는 콘텐츠 탐지에 가장 널리 사용되는 신호는 콘텐츠 기반 및 링크 기반 특징이며, 활동 기반 특징은 여전히 대부분 미연구된 상태이다.
• 극단주의 커뮤니티의 네트워크 기반 분석는 주로 그래프 레이아웃의 시각적 점검을 통해 이루어지며, 공식적인 커뮤니티 탐지 알고리즘의 적용은 부족하다.
• 트위터와 사진 공유 또는 소셜 네트워킹 사이트인 페이스북은 급진화 확산 잠재력이 높지만, 여전히 연구가 부족한 분야이다.
• 극단주의 네트워크에 공식적인 커뮤니티 탐지 알고리즘을 적용한 연구는 소수에 불과하지만, 이는 기술의 가용성과 다른 분야에서의 성공적 적용에도 불구하고 여전히 미비한 실적을 보인다.
• 문헌은 주로 유튜브와 블로거스피어에 집중되어 있으며, 실시간으로 변화하는 플랫폼인 트위터에 대한 관심은 미미한 편이다.
• 추세 분석 결과, 사회적 네트워크 분석 및 기계학습 기법에 대한 관심은 증가하고 있으나, 확장성 있고 자동화되며 동적인 탐지 시스템의 발전에는 한계가 있다.