[论文解读] Violence originated from Facebook: A case study in Bangladesh

Matiur Rahman Minar, Jibon Naher|arXiv (Cornell University)|Jan 1, 2018

Hate Speech and Cyberbullying Detection参考文献 4被引用 16

一句话总结

本文研究了2012年至2017年间，由Facebook引发的虚假信息与仇恨言论如何触发孟加拉国针对宗教少数群体的暴力集体攻击。研究分析了五个案例——拉穆（2012年）、帕布纳（2013年）、吉大港（2014年）、布拉赫曼巴里亚（2016年）和朗布尔（2017年），表明伪造或诽谤性的Facebook帖子煽动了纵火、暴民暴力和系统性迫害。该研究提出基于人工智能的检测系统以及社交媒体上更严格的实名验证机制，以防止未来由技术促成的暴力事件。

ABSTRACT

Facebook as in social network is a great innovation of modern times. Among all social networking sites, Facebook is the most popular social network all over the world. Bangladesh is no exception. People use Facebook for various reasons e.g. social networking and communication, online shopping and business, knowledge and experience sharing etc. However, some recent incidents in Bangladesh, originated from or based on Facebook activities, led to arson and violence. Social network i.e. Facebook was used in these incidents mostly as a tool to trigger hatred and violence. This case study discusses these technology related incidents and recommends possible future measurements to prevent such violence.

研究动机与目标

• 研究探讨Facebook如何被用作煽动孟加拉国宗教暴力的工具。
• 识别社交媒体内容真实性验证系统性失败，导致暴民暴力事件。
• 理解伪造或煽动性Facebook帖子如何触发现实世界暴力的机制。
• 提出技术驱动的解决方案，以在仇恨内容升级前检测并防止其传播。

提出的方法

• 本文对2012年至2017年期间与Facebook相关的五起重大暴力事件进行了定性案例研究分析。
• 分析每起事件中煽动性Facebook帖子的时间线、内容及其传播路径。
• 评估虚假身份、冒名顶替和图像篡改（例如，PS处理的《古兰经》图像）在煽动暴力中的作用。
• 提出基于人工智能的检测系统，以识别社交媒体平台上的可疑用户和活动。
• 作者建议对社交媒体账户实施多层级实名验证，以减少匿名性并防止滥用。
• 倡导建立类似Facebook人工智能自杀预防工具的主动监控系统，但专门用于检测极端主义与仇恨言论。

实验结果

研究问题

• RQ1 2012年至2017年间，Facebook帖子如何促成孟加拉国集体暴力的爆发？
• RQ2 虚假信息、冒名顶替和图像篡改在煽动现实世界攻击中发挥了什么作用？
• RQ3 为何孟加拉国社交媒体用户特别容易受到未经核实的仇恨内容病毒式传播的影响，而未能验证其真实性？
• RQ4 可实施哪些技术措施以检测并防止社交媒体网络上仇恨内容的传播？
• RQ5 社交媒体平台与执法机构如何协作以减轻技术促成的暴力？

主要发现

• 在2017年朗布尔事件中，一则伪造的Facebook帖子据称诽谤先知穆罕默德，引发暴民袭击，造成一人死亡、20人受伤，并摧毁了30户印度教家庭的房屋。
• 在2016年布拉赫曼巴里亚事件中，一个冒充拉贾杰·达斯的虚假Facebook账号发布了篡改的卡巴与湿婆神像图像，煽动暴力，导致超过150户印度教家庭和15座神庙被毁。
• 在2014年吉大港事件中，一则通过Facebook和扩音器传播的虚假谣言声称两名印度教青年侮辱了先知，引发约3,000人的暴民袭击，导致28户印度教家庭被洗劫。
• 在2013年帕布纳事件中，分发了伪造Facebook页面的复印件，指控一名未成年人亵渎宗教，引发暴力，造成25户印度教家庭受损，150个家庭被迫逃离。
• 在2012年拉穆事件中，一张被篡改的图片错误地显示一名佛教徒用亵渎图像标记《古兰经》，引发袭击，导致12座佛教寺庙和50所房屋被毁。
• 在所有案例中，施暴者均依赖未经核实、往往为伪造的社交媒体内容作为暴力的正当理由，凸显了数字内容验证与平台问责制的关键性失败。