[论文解读] A Survey on ChatGPT: AI-Generated Contents, Challenges, and Solutions

Yuntao Wang, Yanghe Pan+3 more|arXiv (Cornell University)|May 25, 2023

Artificial Intelligence in Healthcare and Education被引用 16

一句话总结

本综述聚焦于以 ChatGPT 为重点的 AI 生成内容（AIGC），阐述工作原理、安全/隐私威胁、知识产权保护、水印技术以及未来研究方向。

ABSTRACT

With the widespread use of large artificial intelligence (AI) models such as ChatGPT, AI-generated content (AIGC) has garnered increasing attention and is leading a paradigm shift in content creation and knowledge representation. AIGC uses generative large AI algorithms to assist or replace humans in creating massive, high-quality, and human-like content at a faster pace and lower cost, based on user-provided prompts. Despite the recent significant progress in AIGC, security, privacy, ethical, and legal challenges still need to be addressed. This paper presents an in-depth survey of working principles, security and privacy threats, state-of-the-art solutions, and future challenges of the AIGC paradigm. Specifically, we first explore the enabling technologies, general architecture of AIGC, and discuss its working modes and key characteristics. Then, we investigate the taxonomy of security and privacy threats to AIGC and highlight the ethical and societal implications of GPT and AIGC technologies. Furthermore, we review the state-of-the-art AIGC watermarking approaches for regulatable AIGC paradigms regarding the AIGC model and its produced content. Finally, we identify future challenges and open research directions related to AIGC.

研究动机与目标

• 解释 AIGC 的使能技术与一般架构，以及 ChatGPT 如何融入 AIGC 生态系统。
• 描述贯穿 AIGC 生命周期的安全、隐私、信任与伦理威胁。
• 评估 AIGC 内容与模型的知识产权保护、水印方法以及监管。
• 讨论面向绿色、可解释、值得信赖的 AIGC 系统的未来挑战与开放方向。

提出的方法

• 给出 AIGC-as-a-Service 的三层通用架构（基础设施、引擎、服务层）。
• 给出跨数据、模型和使用环节的安全/隐私威胁分类，并包括对策。
• 综述 AIGC 模型与输出的知识产权保护和水印技术。
• 将 AIGC 与 PGC/UGC 进行比较，并讨论由大模型带来的知识表示/使用方式的变革。
• 总结使能技术（生成算法、预训练大模型、多模态、RLHF）和工作模式（辅助型 vs 自主型）。

实验结果

研究问题

• RQ1 AIGC 的核心工作原理与架构是什么，ChatGPT 如何体现它们？
• RQ2 在 AIGC 生命周期中会出现哪些安全、隐私、信任与伦理威胁，现有或可行的防御措施有哪些？
• RQ3 如何为 AIGC 模型和生成内容实现知识产权保护，以及相关的监管挑战是什么？
• RQ4 哪些未来研究方向可以确保绿色、可解释和可监管的 AIGC 服务？

主要发现

• AIGC 在大数据、大模型和大计算能力驱动下实现大规模的快速、高质量多模态内容生成。
• 安全、隐私、信任与伦理问题在整个 AIGC 生命周期中无处不在，需多样化的防御机制。
• 基于水印的知识产权保护针对 AIGC 模型和输出均是重点，关于威胁与对策的讨论在持续进行。
• AIGC 架构包含三层服务模型，并在隐私与溯源方面考虑 ToB 和 ToC 部署。
• 存在两种主要工作模式——辅助型与自主型内容创建，对速度、成本和内容质量具有影响。
• 该综述将 AIGC 放置在不断演进的知识表示范式中，强调从数据库和搜索向基于大规模 AI 模型的检索与生成的转变。