[논문 리뷰] White or Blue, the Whale gets its Vengeance: A Social Media Analysis of the Blue Whale Challenge

Abhinav Khattar, Karan Dabas외 3명|arXiv (Cornell University)|2018. 01. 17.

Complex Network Analysis Techniques인용 수 24

한 줄 요약

이 연구는 청소년들을 자백적 행동으로 유혹하는 50일간의 자해 과제로 끝나는 해로운 온라인 현상인 블루 울프 챌린지의 소셜 미디어 확산을 분석한다. VK, 인스타그램, 트위터의 데이터를 사용하여 도전에 관심이 있는 사용자 간의 행동 패턴, 인구통계적 추세, 소통 방식을 규명하였으며, 취약한 사용자들이 해시태그와 직접 메시지를 통해 주목을 받기 위해 애쓰는가 하면, 큐레이터들은 비공개 채널과 이미지 기반 모집 방식을 통해 활동하고 있음을 밝혀냈다.

ABSTRACT

The Blue Whale Challenge is a series of self-harm causing tasks that are propagated via online social media under the disguise of a "game." The list of tasks must be completed in a duration of 50 days and they cause both physical and mental harm to the player. The final task is to commit suicide. The game is supposed to be administered by people called "curators" who incite others to cause self-mutilation and commit suicide. The curators and potential players are known to contact each other on social networking websites and the conversations between them are suspected to take place mainly via direct messages which are difficult to track. Though, in order to find curators, the players make public posts containing certain hashtags/keywords to catch their attention. Even though a lot of these social networks have moderated posts talking about the game, yet some posts manage to pass their filters. Our research focuses on (1) understanding the social media spread of the challenge, (2) spotting the behaviour of the people taking interest in Blue Whale challenge and, (3) analysing demographics of the users who may be involved in playing the game.

연구 동기 및 목표

• VK, 인스타그램, 트위터와 같은 소셜 미디어 플랫폼에서 블루 울프 챌린지가 어떻게 퍼지는지 이해하기 위해.
• 해시태그 사용과 직접 메시지 활용 등 도전에 관심을 보이는 사용자 간의 행동 패턴을 특정하기 위해.
• 도전에 참여하거나 그 확산에 관여한 사용자의 인구통계적 특성 분석을 위해.
• 큐레이터의 역할과 취약한 개인을 모집·유인하기 위한 수단을 분석하기 위해.
• 현재 소셜 미디어 모니터링의 한계와 삭제되거나 정지된 콘텐츠를 추적하는 데 직면한 과제 평가를 위해.

제안 방법

• 블루 울프 챌린지와 관련된 키워드 및 해시태그 기반 쿼리를 사용해 VK, 인스타그램, 트위터에서 공개 소셜 미디어 데이터를 수집하였다.
• 좋아요, 댓글, 직접 메시지 등의 사용자 상호작용을 추적하여 각 플랫폼에서의 참여 패턴을 분석하였다.
• 콘텐츠와 의도를 바탕으로 '취약한 플레이어', '확산자', '해시태그 점거자' 등의 유형으로 사용자 행동을 식별하고 분류하였다.
• 자해나 피의 그림을 포함한 이미지 기반 콘텐츠를 분석하여 모집 전략과 시각적 선전 수단을 탐지하였다.
• 플랫폼 전용 경고 및 모니터링 반응(예: 인스타그램의 '모든 게시물 보기' 옵션)을 활용해 개입 효과성을 평가하였다.
• 콘텐츠 삭제, 계정 정지, API 접근 제한 등의 이유로 데이터 부족이 발생함을 고려하여 방법론적 제약 사항을 인정하였다.

실험 결과

연구 질문

• RQ1 블루 울프 챌린지는 어떤 소셜 미디어 플랫폼을 통해 퍼지며, 주로 어떤 소통 채널을 사용하는가?
• RQ2 도전에 취약한 사용자와 그를 확산하는 사용자 간을 구분하는 행동 패턴은 무엇인가?
• RQ3 도전에 관여하거나 그 확산에 관여한 사용자들에게 공통적으로 나타나는 인구통계적 및 심리사회적 특성은 무엇인가?
• RQ4 소셜 미디어 플랫폼은 도전과 관련된 콘텐츠를 얼마나 효과적으로 탐지하고 모니터링하는가?
• RQ5 비공개 메시징 시스템과 이미지 기반 콘텐츠는 모니터링 노력에도 불구하고 도전의 지속성에 어떻게 기여하는가?

주요 결과

• 블루 울프 챌린지는 공개 게시물보다는 비공개 메시징과 이미지 기반 콘텐츠를 통해 주로 퍼지며, 이로 인해 탐지가 어려운 편이다.
• VK 사용자들은 인스타그램 사용자들보다 훨씬 높은 상호작용 수준(댓글과 좋아요)을 보이며, VK에서 더 강한 커뮤니티 참여가 이루어지고 있음을 시사한다.
• 도전에 대해 게시한 사용자 중 일부는 정기적인 업데이트를 이어가지 않아, 초기 주목을 얻는 데 그치는 것으로 보이며, 지속적인 참여는 제한적이다.
• 많은 사용자들이 관련 없는 해시태그를 사용해 노출도를 높이려 하며, 이는 데이터 노이즈를 증가시키고 탐지 작업을 복잡하게 만든다.
• 플랫폼의 경고와 콘텐츠 삭제에도 불구하고, 새로운 큐레이터가 쉽게 등장하고 비공개 소통 채널이 감시되지 않기 때문에 게임은 지속된다.
• 많은 사용자들이 도전에 참여하거나 큐레이터와 연결하기 위해 전화번호와 이메일 주소와 같은 민감한 개인 정보를 공개하고 있다.