[论文解读] Impact of Social Media Posts in Real life Violence: A Case Study in Bangladesh

Jibon Naher, Matiur Rahman Minar|arXiv (Cornell University)|Dec 19, 2018

Hate Speech and Cyberbullying Detection参考文献 14被引用 7

一句话总结

本文研究了2012至2017年间孟加拉国的Facebook帖子如何通过仇恨言论、虚假信息和网络欺凌煽动现实世界暴力，分析了五个案例研究。研究提出技术与心理干预措施，如基于人工智能的骚扰检测、更严格的实名验证以及媒体素养教育，以防止监管薄弱的数字社会中社交媒体引发的群体暴力。

ABSTRACT

Social Networking Site (SNS) is a great innovation of modern times. Facebook, Twitter etc. have become an everyday part of peoples' life. Among all SNSs, Facebook is the most popular social network all over the world. Bangladesh is no exception. People of Bangladesh use Facebook for social communication, online shopping, business, knowledge and experience sharing etc. As well as the various uses of SNSs, people sometimes find themselves involved in real life violence, provoked by some social media posts or activities. In this paper, we discussed some case studies in which real life violence is originated based on Facebook activities in Bangladesh. Facebook was used in these incidents intentionally or unintentionally mostly as a tool to trigger hatred and violence. We analyzed and discussed the real-world consequences of these virtual activities in social media. Lastly, we recommended possible future measurements to prevent such violence.

研究动机与目标

• 探讨Facebook上的社交媒体活动与孟加拉国现实暴力之间的因果关系。
• 识别引发群体暴力的虚假信息病毒式传播、宗教仇恨言论和网络欺凌的常见模式。
• 分析促使线上内容迅速演变为现实暴力的心理与社会技术因素。
• 提出可操作的技术与行为干预措施，以预防孟加拉国未来因社交媒体引发的暴力事件。

提出的方法

• 对2012至2017年间五起已记录的事件进行案例研究，这些事件因Facebook帖子引发现实暴力。
• 对帖子内容、用户行为及传播模式进行主题分析，识别宗教诽谤和私人报复等触发因素。
• 应用现有的人工智能与自然语言处理技术检测网络骚扰与仇恨言论，并针对孟加拉国语境进行调整。
• 提出多层级实名验证系统，以减少Facebook上匿名或虚假用户账户的数量。
• 开发基于人工智能的预测模型，以在暴力发生前识别高风险用户或内容，其灵感源自Facebook的自杀预防工具。
• 整合心理学建议，包括媒体素养教育和减少对虚拟世界的依赖，以应对对线上内容的盲目信任。

实验结果

研究问题

• RQ1 特定的Facebook帖子如何在孟加拉国引发现实中的群体暴力？
• RQ2 哪些共同的心理与社会技术因素使线上内容能够煽动身体暴力？
• RQ3 虚假信息或伪造内容在加剧线下社区紧张局势中扮演何种角色？
• RQ4 人工智能与实名验证系统如何在发展中国家适应以检测并防止仇恨驱动的暴力？
• RQ5 哪些行为与教育干预措施可减少对线上内容的盲目信任，从而预防现实伤害？

主要发现

• 2012至2017年间，孟加拉国发生了五起重大事件，直接由Facebook帖子引发，包括基于图像的诽谤和煽动性言论。
• 在所有案例中，暴力均源于未经核实、情绪化强烈的言论，利用宗教或个人怨恨，往往通过封闭群组迅速传播。
• 研究发现，用户经常未能核实帖子的真实性，导致盲目信任，并基于虚假信息采取集体行动。
• Facebook被用作故意煽动与无意放大仇恨的工具，由于监管薄弱和匿名性，责任追究几乎不存在。
• 研究人员发现，数字安全基础设施存在关键缺口，尤其是在孟加拉国等低资源环境中，社交媒体滥用导致严重现实后果。
• 现有用于Facebook自杀预测的人工智能工具被引用为模型，以适应类似系统，大规模检测并预防仇恨驱动的暴力。