[论文解读] Fake News, Disinformation, and Deepfakes: Leveraging Distributed Ledger Technologies and Blockchain to Combat Digital Deception and Counterfeit Reality

Paula Fraga‐Lamas, Tiago M. Fernández‐Caramés|arXiv (Cornell University)|Apr 10, 2019

Blockchain Technology Applications and Security参考文献 13被引用 87

一句话总结

本文提出利用分布式账本技术（DLTs），特别是区块链，通过去中心化、透明且可验证的交易记录，确保数据来源可追溯、不可篡改，以应对虚假新闻、误导性信息和深度伪造问题。核心贡献在于提出了一套全面的框架，利用DLTs提升媒体真实性和可审计性，同时识别出可扩展性、GDPR合规性以及与人工智能结合用于检测等关键挑战。

ABSTRACT

The rise of ubiquitous deepfakes, misinformation, disinformation, propaganda and post-truth, often referred to as fake news, raises concerns over the role of Internet and social media in modern democratic societies. Due to its rapid and widespread diffusion, digital deception has not only an individual or societal cost (e.g., to hamper the integrity of elections), but it can lead to significant economic losses (e.g., to affect stock market performance) or to risks to national security. Blockchain and other Distributed Ledger Technologies (DLTs) guarantee the provenance, authenticity and traceability of data by providing a transparent, immutable and verifiable record of transactions while creating a peer-to-peer secure platform for storing and exchanging information. This overview aims to explore the potential of DLTs and blockchain to combat digital deception, reviewing initiatives that are currently under development and identifying their main current challenges. Moreover, some recommendations are enumerated to guide future researchers on issues that will have to be tackled to face fake news, disinformation and deepfakes, as an integral part of strengthening the resilience against cyber-threats on today's online media.

研究动机与目标

• 应对虚假新闻和深度伪造等数字欺骗行为日益增长的威胁，此类行为正破坏对民主机构和媒体的信任。
• 解释DLTs如何提供不可篡改、透明且去中心化的记录，以验证数字内容的来源和完整性。
• 识别在部署DLTs以保障媒体真实性和网络安全性方面面临的关键技术和监管挑战。
• 通过指出GDPR合规性、量子脆弱性以及对混合AI-DLT系统的需求等开放问题，为未来研究提供指导。
• 提出一个整体框架，将DLTs整合到媒体生态系统中，以增强问责性并减少虚假现实的传播。

提出的方法

• 利用区块链和DLTs创建防篡改、带时间戳的数字内容创建与共享日志，确保数据来源可追溯。
• 实施密码学哈希（包括感知哈希）以检测内容相似性并识别被篡改的媒体。
• 整合上下文元数据（例如时间模式、地理位置、社交语境）以在哈希比对之外验证媒体真实性。
• 设计针对媒体可追溯性工作负载优化的共识机制和去中心化程度的DLT架构。
• 提出结合DLTs与人工智能/NLP的混合系统，以大规模分析语义内容并检测篡改。
• 通过密码学保护内容和交易日志，同时确保可审计性和访问控制，以保障隐私与安全。

实验结果

研究问题

• RQ1 在广泛存在的误导性信息背景下，如何有效利用DLTs确保数字媒体的来源可追溯性和可追溯性？
• RQ2 在基于DLT的系统中应对虚假新闻和深度伪造时，面临的关键技术和监管挑战是什么？
• RQ3 如何将DLTs与人工智能及自然语言处理（NLP）结合，以提升对篡改内容的检测与验证能力？
• RQ4 DLTs对GDPR合规性有何影响，特别是在数据主体权利和数据匿名化方面？
• RQ5 基于DLT的系统在社交媒体生态系统中，如何在内容审核、言论自由和隐私保护之间取得平衡？

主要发现

• DLTs为确保数据来源可追溯性和不可篡改性提供了坚实基础，能够为数字内容提供透明且可验证的审计轨迹。
• 感知哈希和语义相似性指数可在加密哈希因微小修改而不同的情况下，帮助检测被篡改的内容。
• 当前的DLTs在可扩展性和性能方面存在局限，尤其在高吞吐量媒体工作负载下，受制于共识算法的约束。
• GDPR合规性仍是重大挑战，特别是在不可变账本中数据控制者责任和“被遗忘权”的实现方面。
• 后量子密码学对未来的DLT系统至关重要，因为当前的密码原语易受量子攻击。
• 独立的DLT系统无法验证内容真实性；必须结合上下文元数据和基于人工智能的分析，才能有效抵御数据伪造攻击。