[论文解读] Foundation Models and Fair Use

Peter Henderson, Xuechen Li+4 more|arXiv (Cornell University)|Mar 28, 2023

Digital Rights Management and Security被引用 7

一句话总结

本文研究了在美国合理使用原则下，基于受版权保护数据训练基础模型所涉及的法律与伦理风险，通过实验表明此类模型可能生成与受保护作品高度相似的内容。文章提出了技术缓解措施，并呼吁法律与技术协同发展，以确保合规性同时维护创新。

ABSTRACT

Existing foundation models are trained on copyrighted material. Deploying these models can pose both legal and ethical risks when data creators fail to receive appropriate attribution or compensation. In the United States and several other countries, copyrighted content may be used to build foundation models without incurring liability due to the fair use doctrine. However, there is a caveat: If the model produces output that is similar to copyrighted data, particularly in scenarios that affect the market of that data, fair use may no longer apply to the output of the model. In this work, we emphasize that fair use is not guaranteed, and additional work may be necessary to keep model development and deployment squarely in the realm of fair use. First, we survey the potential risks of developing and deploying foundation models based on copyrighted content. We review relevant U.S. case law, drawing parallels to existing and potential applications for generating text, source code, and visual art. Experiments confirm that popular foundation models can generate content considerably similar to copyrighted material. Second, we discuss technical mitigations that can help foundation models stay in line with fair use. We argue that more research is needed to align mitigation strategies with the current state of the law. Lastly, we suggest that the law and technical mitigations should co-evolve. For example, coupled with other policy mechanisms, the law could more explicitly consider safe harbors when strong technical tools are used to mitigate infringement harms. This co-evolution may help strike a balance between intellectual property and innovation, which speaks to the original goal of fair use. But we emphasize that the strategies we describe here are not a panacea and more work is needed to develop policies that address the potential harms of foundation models.

研究动机与目标

• 分析在美国合理使用原则下，基于互联网受版权保护数据训练基础模型所涉及的法律风险。
• 评估这些模型生成的文本是否可能损害原始受版权保护作品的市场价值。
• 识别可帮助基础模型与合理使用原则保持一致的技术缓解策略。
• 倡导法律与技术协同发展，以平衡知识产权保护与人工智能创新。
• 为机器学习研究人员和法律专业人士提供可操作的研究与政策指导。

提出的方法

• 调研美国关于合理使用的判例法，尤其关注转换性使用与市场影响相关案例。
• 通过实验表明基础模型生成内容与受版权保护训练数据之间存在高度相似性。
• 分析现实应用场景，包括文本生成（GPT）、代码合成（Codex）和图像生成（Stable Diffusion）。
• 评估现有技术缓解策略，如数据过滤、数字水印和提示工程。
• 提出一种将技术工具与法律标准对齐的框架，建议在实施强有力缓解措施时设立安全港。
• 倡导政策机制，承认技术防护措施可作为合理使用保护的依据。

实验结果

研究问题

• RQ1 基础模型在多大程度上会生成与受版权保护训练数据实质性相似的输出？
• RQ2 当基础模型生成具有市场竞争力的输出时，合理使用原则在何种条件下仍适用？
• RQ3 当前技术缓解策略在降低版权侵权风险方面的有效性如何？
• RQ4 技术防护措施能否在法律上被认可为合理使用保护的依据？
• RQ5 法律与技术发展如何协同演进，以支持基础模型负责任的部署？

主要发现

• 实验结果证实，GPT-3 和 Stable Diffusion 等流行基础模型能够生成与受版权保护训练数据高度相似的输出。
• 若生成输出复制或替代原始受版权保护作品，可能因市场损害而削弱合理使用抗辩。
• 当前的技术缓解措施（如数据过滤和水印）单独使用不足以确保合理使用合规。
• 对于生成式基础模型，合理使用原则并非自动适用，尤其当输出影响原始作品的经济价值时。
• 若法律承认强有力的技术防护措施，可能为合理使用提供可行路径，提示需推动政策创新。
• 即使合理使用原则适用，数据创作者——尤其是创意与劳动力市场中的创作者——所遭受的重大损害，仍无法仅靠技术解决方案解决。