[论文解读] AI Art is Theft: Labour, Extraction, and Exploitation, Or, On the Dangers of Stochastic Pollocks

Trystan S. Goetze|arXiv (Cornell University)|Jan 10, 2024

Cinema and Media StudiesEconomics, Econometrics and Finance参考文献 46被引用 3

一句话总结

本文认为，像 DALL-E 和 Stable Diffusion 这类生成式 AI 艺术系统通过在未经同意、未署名的艺术作品数据集上进行训练，从人类创作者身上无补偿地提取价值，构成不道德的劳动盗窃。它批判了人工智能产业的劳动剥削模式，将其与‘随机波洛克’（stochastic Pollocks）相提并论——即算法随机生成的输出，看似模仿艺术创作，实则掩盖了真实创作者的劳动。

ABSTRACT

Since the launch of applications such as DALL-E, Midjourney, and Stable Diffusion, generative artificial intelligence has been controversial as a tool for creating artwork. While some have presented longtermist worries about these technologies as harbingers of fully automated futures to come, more pressing is the impact of generative AI on creative labour in the present. Already, business leaders have begun replacing human artistic labour with AI-generated images. In response, the artistic community has launched a protest movement, which argues that AI image generation is a kind of theft. This paper analyzes, substantiates, and critiques these arguments, concluding that AI image generators involve an unethical kind of labour theft. If correct, many other AI applications also rely upon theft.

研究动机与目标

• 探讨在未经同意或补偿的情况下，将大量受版权保护的艺术作品用于训练生成式 AI 模型所带来的伦理影响。
• 研究当前人工智能艺术生态系统如何在创意产业中系统性地从人类艺术家身上提取价值，而无需公平补偿。
• 通过分析数据采集与模型训练机制，评估艺术界关于 AI 生成艺术构成‘盗窃’的主张。
• 批判将人工智能视为中立或有益工具的叙事，强调其在取代人类劳动和贬低艺术劳动价值方面的作用。
• 主张人工智能艺术中的伦理失败延伸至其他人工智能应用，暗示人工智能开发中存在更广泛的剥削模式。

提出的方法

• 分析主要生成式 AI 模型（如 DALL-E、Midjourney、Stable Diffusion）的训练数据来源，识别其中未经同意包含的受版权保护的艺术作品。
• 运用批判理论与劳动伦理学，将 AI 训练过程框架化为一种掠夺性劳动剥削形式，借鉴马克思主义与女性主义劳动批判理论。
• 将 AI 生成的输出与人类艺术创作进行比较，强调原创创作者在过程中缺乏同意、署名或补偿。
• 使用‘随机波洛克’（stochastic Pollocks）这一隐喻，描述那些生成随机、衍生性输出的 AI 系统，同时掩盖艺术家真实劳动的状况。
• 回顾公众抗议与艺术家主导的运动（如在创意平台中禁止 AI 艺术），以佐证系统性劳动盗窃的指控。
• 评估人工智能训练数据的法律与伦理框架，突出在同意与署名机制方面的缺失。

实验结果

研究问题

• RQ1 生成式 AI 模型在多大程度上依赖于未经同意、未署名的艺术创作劳动作为其训练数据？
• RQ2 当前的人工智能艺术生态系统如何在未提供公平补偿的情况下，实现从人类艺术家身上提取价值？
• RQ3 在伦理与经济价值方面，AI 生成艺术的创作过程与传统艺术劳动在哪些方面相似或不同？
• RQ4 为何艺术界将 AI 艺术视为‘盗窃’的表述在伦理与结构上具有正当性？
• RQ5 人工智能艺术的劳动剥削模式对其他人工智能应用在创意与专业领域中具有何种更广泛的影响？

主要发现

• 像 DALL-E、Midjourney 和 Stable Diffusion 这类生成式 AI 模型，其训练数据集包含大量未经同意或未补偿的受版权保护的艺术作品。
• 训练过程构成一种劳动盗窃形式，因为人类艺术家的创造性劳动被未经署名或补偿地提取并重新利用。
• ‘随机波洛克’（stochastic Pollocks）这一术语有效捕捉了 AI 艺术的悖论：算法随机生成的输出看似模仿艺术创作，实则抹去了真实创作者的劳动。
• 艺术界对 AI 艺术的抗议运动具有坚实的伦理基础，因为 AI 系统系统性地贬低并取代了人类艺术劳动。
• 人工智能艺术中的伦理失败并非孤立现象，而是人工智能开发中更广泛劳动剥削模式的体现，对其他人工智能应用构成潜在风险。
• 本文结论认为，许多其他人工智能应用很可能也依赖于类似的非道德数据采集方式，暗示人工智能创新中存在系统性问题。