[論文レビュー] Impact of Social Media Posts in Real life Violence: A Case Study in Bangladesh

Jibon Naher, Matiur Rahman Minar|arXiv (Cornell University)|Dec 19, 2018

Hate Speech and Cyberbullying Detection参考文献 14被引用数 7

ひとこと要約

この論文は、バングラデシュにおけるフェイスブック投稿が、憎悪スピーチ、誤情報、ネットいじめを通じて現実世界の暴力を引き起こした方法を調査し、2012年から2017年までの5つの事例を分析している。弱い規制監視があるデジタル社会において、ソーシャルメディアによる暴動を防ぐために、AI駆動のいじめ検出、厳格な本人確認、メディアリテラシーといった技術的・心理的介入を提案している。

ABSTRACT

Social Networking Site (SNS) is a great innovation of modern times. Facebook, Twitter etc. have become an everyday part of peoples' life. Among all SNSs, Facebook is the most popular social network all over the world. Bangladesh is no exception. People of Bangladesh use Facebook for social communication, online shopping, business, knowledge and experience sharing etc. As well as the various uses of SNSs, people sometimes find themselves involved in real life violence, provoked by some social media posts or activities. In this paper, we discussed some case studies in which real life violence is originated based on Facebook activities in Bangladesh. Facebook was used in these incidents intentionally or unintentionally mostly as a tool to trigger hatred and violence. We analyzed and discussed the real-world consequences of these virtual activities in social media. Lastly, we recommended possible future measurements to prevent such violence.

研究の動機と目的

• フェイスブックでのソーシャルメディア活動とバングラデシュにおける現実世界の暴力との因果関係を検証すること。
• 暴動を引き起こす共通のパターン、すなわち拡散する誤情報、宗教的憎悪スピーチ、ネットいじめを特定すること。
• オンラインコンテンツが現実世界の急激な悪化に発展する心理的および社会技術的要因を分析すること。
• 将来のソーシャルメディアによる暴力の防止に向け、技術的および行動ベースの実行可能な介入策を提言すること。

提案手法

• 2012年から2017年までの間、フェイスブック投稿がバングラデシュで現実世界の暴力を引き起こした5件の文書化された事例を対象とした事例研究分析。
• 宗教的中傷や個人の復讐を目的とした内容などの引き金となる要因を特定するため、投稿内容、ユーザー行動、拡散パターンの主題的分析。
• 既存のAIおよび自然言語処理（NLP）技術を応用し、オンラインいじめや憎悪スピーチを検出する手法をバングラデシュの文脈に適合させた。
• フェイスブック上の匿名または偽のユーザー・アカウントを減らすために、多段階の本人確認システムの提案。
• 暴力が発生する前に、高リスクのユーザーまたはコンテンツを特定するAIベースの予測モデルの開発。これは、フェイスブックの自殺予防ツールを模範としている。
• メディアリテラシーと仮想世界への依存の低減といった心理的助言を統合し、オンラインコンテンツへの無批判的信頼を是正する。

実験結果

リサーチクエスチョン

• RQ1 特定のフェイスブック投稿が、バングラデシュで現実世界の暴動をどのように引き起こすのか？
• RQ2 オンラインコンテンツが物理的暴力を引き起こすために、共通して関与する心理的および社会技術的要因は何か？
• RQ3 誤情報や捏造されたコンテンツは、現実のコミュニティにおける緊張をどのように悪化させるのか？
• RQ4 AIおよび本人確認システムは、発展途上国におけるソーシャルメディア上での憎悪に起因する暴力を検出・防止するために、どのように適合可能か？
• RQ5 行動的および教育的介入は、オンラインコンテンツへの無批判的信頼を減らし、現実世界の被害を防ぐのにどのように寄与できるか？

主な発見

• 2012年から2017年までの間に、バングラデシュで5件の深刻な事例が、フェイスブック投稿によって直接引き起こされた。その中には、画像に基づく中傷や、炎上を誘発する発言も含まれた。
• すべての事例において、検証されていない感情的で強い内容の投稿が、宗教的または個人的な恨みを背景に、しばしば閉じたグループを通じて急速に拡散された。
• 研究では、ユーザーが投稿の真正性を確認せず、誤情報に基づいた無批判的信頼と集団行動が生じたことが判明した。
• フェイスブックは、意図的な扇動と、無意識的な憎悪の拡散の両方の手段として使われており、匿名性と弱いモデレーションの結果、責任の所在がほとんどなかった。
• 研究者たちは、バングラデシュのような低資源環境において、デジタルセキュリティインfraの著しい欠落が、ソーシャルメディアの誤用が深刻な現実世界の結果をもたらす要因であると特定した。
• フェイスブックの自殺予防ツールを模範として、同様のシステムを、憎悪に起因する暴力を大規模に検出・防止するために適合可能であると指摘した。