[论文解读] The Ethical Need for Watermarks in Machine-Generated Language

Alexei Grinbaum, Laurynas Adomaitis|arXiv (Cornell University)|Sep 7, 2022

Ethics and Social Impacts of AI被引用 12

一句话总结

本文提出了一种通过等距字母序列在AI生成文本中嵌入隐蔽、机器可读水印的方法，以伦理方式区分合成文本与人工撰写的内容。该方法确保可检测性的同时不影响可读性，解决了大型语言模型非语义特性所引发的欺骗、情感操控和虚假信息传播等风险。

ABSTRACT

Watermarks should be introduced in the natural language outputs of AI systems in order to maintain the distinction between human and machine-generated text. The ethical imperative to not blur this distinction arises from the asemantic nature of large language models and from human projections of emotional and cognitive states on machines, possibly leading to manipulation, spreading falsehoods or emotional distress. Enforcing this distinction requires unintrusive, yet easily accessible marks of the machine origin. We propose to implement a code based on equidistant letter sequences. While no such code exists in human-written texts, its appearance in machine-generated ones would prove helpful for ethical reasons.

研究动机与目标

• 解决AI生成文本与人工写作难以区分所带来的伦理风险。
• 通过明确机器生成内容的来源，防止情感操控和虚假信息传播。
• 通过保持人与AI作者身份的清晰区分，维护数字通信中的人类信任。
• 开发一种隐蔽但可检测的自然语言输出水印技术。
• 构建一种利用语言固有结构模式来标识机器来源的系统，而不会改变语义含义。

提出的方法

• 提出一种基于等距字母序列（ELS）的水印方案，该模式在人工书写文本中不会出现。
• 在文本生成过程中，通过在输出序列中以固定间隔选择字母来嵌入水印。
• 确保水印对读者不可见，但可被计算机检测。
• 使用确定性算法嵌入和验证水印，实现可靠的来源追溯。
• 设计水印以抵御重述和轻微文本修改，增强鲁棒性。
• 将该方法应用于大型语言模型输出，以保持伦理透明性。

实验结果

研究问题

• RQ1 如何对机器生成的文本进行伦理化标记，以保持其与人工撰写内容的区分？
• RQ2 何种水印机制既能隐蔽又能在自然语言中可靠检测？
• RQ3 为何人类写作中不存在等距字母序列，使其成为水印的有利条件？
• RQ4 当AI生成文本与人工写作无法区分时，会引发哪些伦理风险？
• RQ5 水印如何缓解通过虚假归因认知与情感状态给AI而引发的操控风险？

主要发现

• 等距字母序列在人类自然写作中不会出现，使其成为标识机器来源的可靠标记。
• 该水印方法在保持文本流畅性和可读性的同时，实现了对合成内容的检测。
• 该方法为大规模识别AI生成语言提供了可扩展且确定性的解决方案。
• 该系统通过使用户和系统能够验证生成文本的来源，支持伦理透明性。
• 该方法解决了与欺骗、虚假信息和情感操控相关的AI通信核心伦理问题。
• 水印对重述和轻微文本修改具有鲁棒性，确保长期可检测性。