[论文解读] New threats to society from free-speech social media platforms

Dominik Bär, Nicolas Pröllochs+1 more|arXiv (Cornell University)|Feb 2, 2023

Hate Speech and Cyberbullying Detection被引用 6

一句话总结

本文主张，缺乏内容审核的自由言论社交媒体平台——即所谓的“另类科技平台”（alt-techs）——由于不受监管的仇恨言论、虚假信息以及暴力极端主义的协调传播，对社会构成重大威胁，如1月6日国会山事件所示。文章呼吁基于证据的政策、增强的研究访问权限以及监管框架，以强制实施内容审核和透明度，通过Parler、Gab和Telegram的案例研究，倡导跨学科研究与机构监督。

ABSTRACT

In recent years, several free-speech social media platforms (so-called "alt-techs") have emerged, such as Parler, Gab, and Telegram. These platforms market themselves as alternatives to mainstream social media and proclaim "free-speech" due to the absence of content moderation, which has been attracting a large base of partisan users, extremists, and supporters of conspiracy theories. In this comment, we discuss some of the threats that emerge from such social media platforms and call for more policy efforts directed at understanding and countering the risks for society.

研究动机与目标

• 分析缺乏内容审核、传播极端主义、阴谋论和仇恨言论内容的另类科技平台对社会造成的风险。
• 考察另类科技平台在协调现实世界暴力事件中的作用，包括1月6日国会山事件及其他大规模枪击事件。
• 倡导基于证据的政策干预，包括监管强制措施和增强研究访问权限，以遏制此类平台上有害内容的传播。
• 推动对另类科技平台生态系统中用户行为、内容动态及社会影响的跨学科研究。

提出的方法

• 基于已记录的案例研究（包括1月6日国会山事件和布法罗、匹兹堡大规模枪击事件），对另类科技平台进行定性且基于证据的分析。
• 审查现有内容审核政策及其在另类科技平台上的缺失情况，与主流平台及德国《网络执行法》（NetzDG）和中国《网络安全法》等监管框架进行对比。
• 提出一个聚焦于用户、内容和社会的三维研究议程，以系统性地研究另类科技平台生态系统。
• 倡导采用自然语言处理（NLP）和跨平台分析等计算方法，以检测和追踪虚假信息、仇恨言论和阴谋论的传播。
• 建议通过大规模实地实验，对内容审核工具（如反制言论、事实核查）进行第三方评估。
• 呼吁实施政策以确保透明度和数据访问权限，借鉴Twitter透明度中心和Meta广告图书馆等举措，将此类要求扩展至另类科技平台。

实验结果

研究问题

• RQ1 另类科技平台上的用户具有哪些特征？不同群体（如党派支持者、极端分子、阴谋论者）之间的差异是什么？
• RQ2 另类科技平台上传播的各类内容（尤其是虚假信息、仇恨言论和极端主义材料）有哪些类型？其传播背后的机制是什么？
• RQ3 另类科技平台在多大程度上加剧了社会分裂、政治极化以及激进化现象，包括在线和现实世界中的暴力行为？
• RQ4 在缺乏有效监管的另类科技平台上，反制言论和虚假信息标记等内容审核技术的有效性如何？
• RQ5 哪些最有效的政策与监管干预措施，可以在保护言论自由的同时，降低另类科技平台的社会风险？

主要发现

• Parler、Gab和Telegram等另类科技平台在协调1月6日国会山事件中发挥了关键作用，暴动者利用Parler分享规避执法和走私武器的策略。
• 2022年布法罗大规模枪击案的凶手受到4chan内容的启发，表明另类科技平台是种族动机暴力的温床。
• Gab在2018年匹兹堡犹太教堂枪击案期间被确认为主要通信渠道，凸显另类科技平台在助长仇恨驱动恐怖主义中的作用。
• 另类科技平台缺乏内容审核，导致阴谋论（如QAnon）和与虚假信息网站（如Breitbart.com）的链接得以不受限制地传播。
• 另类科技平台用户群体同质化，减少了接触对立观点的机会，加速了回音室效应和激进化过程。
• 公众与监管压力（如将Parler从苹果和谷歌应用商店下架）可严重扰乱另类科技平台的运作，表明外部强制措施的有效性。