[論文レビュー] White or Blue, the Whale gets its Vengeance: A Social Media Analysis of the Blue Whale Challenge

Abhinav Khattar, Karan Dabas+3 more|arXiv (Cornell University)|Jan 17, 2018

Complex Network Analysis Techniques被引用数 24

ひとこと要約

本研究は、自傷行為のタスクを50日間実施し、最終的に自殺に至らしめるという危険なオンライン現象であるブルーベイビー・チャレンジのSNS上での広がりを分析している。VK、Instagram、Twitterのデータを用いて、チャレンジに関心を示すユーザーの行動パターン、人口統計的傾向、およびコミュニケーションのダイナミクスを同定した。その結果、脆弱なユーザーはしばしばハッシュタグやダイレクトメッセージを通じて注目を求める一方、キュレーターは非公開のチャネルや画像ベースの勧誘を用いて活動していることが明らかになった。

ABSTRACT

The Blue Whale Challenge is a series of self-harm causing tasks that are propagated via online social media under the disguise of a "game." The list of tasks must be completed in a duration of 50 days and they cause both physical and mental harm to the player. The final task is to commit suicide. The game is supposed to be administered by people called "curators" who incite others to cause self-mutilation and commit suicide. The curators and potential players are known to contact each other on social networking websites and the conversations between them are suspected to take place mainly via direct messages which are difficult to track. Though, in order to find curators, the players make public posts containing certain hashtags/keywords to catch their attention. Even though a lot of these social networks have moderated posts talking about the game, yet some posts manage to pass their filters. Our research focuses on (1) understanding the social media spread of the challenge, (2) spotting the behaviour of the people taking interest in Blue Whale challenge and, (3) analysing demographics of the users who may be involved in playing the game.

研究の動機と目的

• VK、Instagram、TwitterなどのSNSプラットフォーム上でブルーベイビー・チャレンジがどのように広がるかを理解すること。
• ハッシュタグやダイレクトメッセージの使用を含め、チャレンジに関心を示すユーザーの行動パターンを特定すること。
• チャレンジに関与するか、その拡散を助けるユーザーの人口統計的特徴を分析すること。
• キュレーターの役割と、脆弱な個人を勧誘・操作するために用いられるメカニズムを検討すること。
• 現在のSNSモデレーションの限界と、非公開、削除済み、または一時停止されたコンテンツを追跡する際の課題を評価すること。

提案手法

• ブルーベイビー・チャレンジ関連のキーワードおよびハッシュタグに基づくクエリを用いて、VK、Instagram、Twitterの公開SNSデータを収集した。
• いいね、コメント、ダイレクトメッセージなどのユーザー相互作用を追跡し、異なるプラットフォームにおける関与のパターンを分析した。
• コンテンツと意図に基づき、『脆弱なプレイヤー』『拡散者』『ハッシュタグ乗っ取り者』などの行動タイプに分類してユーザー行動を同定・分類した。
• 自傷行為や血液の描写を含む画像ベースのコンテンツを分析し、勧誘戦略や視覚的プロパガンダを特定した。
• プラットフォーム固有の警告やモデレーション対応（例：Instagramの「それでも投稿を表示」オプション）を用いて、介入の有効性を評価した。
• コンテンツの削除、アカウントの一時停止、APIアクセス制限によるデータ不足を評価し、研究手法上の制約を認識した。

実験結果

リサーチクエスチョン

• RQ1 ブルーベイビー・チャレンジは、どのようなSNSプラットフォームで広がっており、主にどのような通信チャネルが使われているか？
• RQ2 チャレンジに脆弱なユーザーとそれを拡散するユーザーを区別する行動パターンは何か？
• RQ3 チャレンジに関与するか、その拡散に参加するユーザーに共通する人口統計的および心理社会的特徴は何か？
• RQ4 SNSプラットフォームは、チャレンジ関連のコンテンツをどの程度効果的に検出・モデレーションしているか？
• RQ5 プライベートメッセージシステムや画像ベースのコンテンツは、モデレーション努力にもかかわらず、なぜチャレンジの持続性に寄与しているのか？

主な発見

• ブルーベイビー・チャレンジは、主に公開投稿ではなく、プライベートメッセージや画像ベースのコンテンツを通じて広がっており、検出が困難である。
• VKのユーザーはInstagramのユーザーに比べ、顕著に高い相互作用（コメントやいいね）を示しており、VKではコミュニティ参加が強いことが示唆された。
• チャレンジについて投稿するユーザーのうち、定期的なアップデートを行う者は少数であり、初期の注目獲得行動にとどまることがうかがえる。
• 多くのユーザーが関係のないハッシュタグを使用して可視性を得ようとしており、これがデータノイズを増加させ、検出作業を複雑にしている。
• プラットフォームの警告やコンテンツ削除にもかかわらず、新しいキュレーターが容易に出現できるため、チャレンジは存続している。また、非監視のプライベート通信チャネルが依然として利用可能である。
• 多くのユーザーが、チャレンジへの参加やキュレーターとの連絡を試みる中で、電話番号やメールアドレスといった機微な個人情報を暴露している。