[논문 리뷰] AI Art is Theft: Labour, Extraction, and Exploitation, Or, On the Dangers of Stochastic Pollocks

Trystan S. Goetze|arXiv (Cornell University)|2024. 01. 10.

Cinema and Media StudiesEconomics, Econometrics and Finance참고 문헌 46인용 수 3

한 줄 요약

이 논문은 DALL-E와 Stable Diffusion와 같은 생성형 AI 예술 시스템이 창작자들의 동의 없이, 이름도 밝히지 않은 예술 작품의 막대한 데이터셋을 학습자료로 사용함으로써 비윤리적인 노동 도용을 저지르며, 보상 없이 인간 예술가들의 노동에서 가치를 착취한다는 주장을 펼친다. 이는 AI 산업의 노동 착취 모델이 착취적이며, 예술 창작을 모방하는 알고리즘적 무작위 출력인 '확률적 폴락스'(stochastic Pollocks)에 비유하여, 실제로는 그 뒤에 숨겨진 진짜 노동을 지워내는 방식임을 설명한다.

ABSTRACT

Since the launch of applications such as DALL-E, Midjourney, and Stable Diffusion, generative artificial intelligence has been controversial as a tool for creating artwork. While some have presented longtermist worries about these technologies as harbingers of fully automated futures to come, more pressing is the impact of generative AI on creative labour in the present. Already, business leaders have begun replacing human artistic labour with AI-generated images. In response, the artistic community has launched a protest movement, which argues that AI image generation is a kind of theft. This paper analyzes, substantiates, and critiques these arguments, concluding that AI image generators involve an unethical kind of labour theft. If correct, many other AI applications also rely upon theft.

연구 동기 및 목표

• 허가 없이도 보상 없이 저작권이 있는 예술 작품의 막대한 데이터셋을 기반으로 생성형 AI 모델을 학습시키는 데 있어 윤리적 영향을 검토하기 위해.
• 현재의 AI 예술 생태계가 창작 산업에서 특히 인간 예술가들에게 체계적인 노동 착취를 가능하게 하는 방식을 조사하기 위해.
• AI 생성 예술이 '도둑질'로 간주되는 예술계의 주장을 분석함으로써 데이터 수확 및 모델 학습의 메커니즘을 평가하기 위해.
• AI를 중립적 또는 유익한 도구로 보는 서사를 비판하며, 인간 노동을 대체하고 예술 노동의 가치를 떨어뜨리는 데서 AI의 역할을 부각하기 위해.
• AI 예술에서의 윤리적 실패가 다른 AI 응용 분야로까지 확장된다는 점을 주장하며, AI 개발 전반에 걸쳐 착취의 일반적인 패턴을 드러내기 위해.

제안 방법

• 주요 생성형 AI 모델(DALL-E, Midjourney, Stable Diffusion 등)의 학습 데이터 소스를 분석하여 저작권이 있는 예술 작품들이 동의 없이 포함된 것을 확인한다.
• 비판 이론과 노동 윤리학을 적용하여 AI 학습 과정을 착취적 노동 착취의 형태로 프레임하며, 마르크스주의적 및 페미니즘적 노동 비판 이론을 기반으로 한다.
• AI가 생성한 출력물을 인간의 예술 창작과 비교하여, 원본 창작자들에게 동의 없이, 명시 없이, 보상 없이 창작 노동이 소비된 점을 강조한다.
• AI 시스템이 무작위이자 파생적인 출력물을 내보내면서도 실제 예술가들의 진짜 노동을 가림으로써 '확률적 폴락스'라는隐喩를 사용한다.
• 공개된 시위와 예술가 주도 운동(예: 창작 플랫폼에서 AI 예술 금지)을 검토하여 체계적 노동 도용 주장의 근거를 강화한다.
• AI 학습 데이터를 둘러싼 법적 및 윤리적 프레임워크를 평가하며, 동의 및 기여 표시 메커니즘의 격차를 드러낸다.

실험 결과

연구 질문

• RQ1 생성형 AI 모델이 학습 데이터에 있어 비동의된, 비명시된 예술 노동에 얼마나 의존하고 있는가?
• RQ2 현재의 AI 예술 생태계는 인간 예술가들로부터 공정한 보상 없이 가치를 착취하는 데 어떻게 기여하는가?
• RQ3 AI 생성 예술의 창작 방식은 기존의 예술 노동과 비교해 윤리적·경제적 가치 측면에서 유사점이나 차이점이 무엇인가?
• RQ4 왜 예술계가 AI 예술을 '도둑질'로 프레임하는 것이 윤리적·구조적으로 타당한가?
• RQ5 AI 예술의 노동 착취 모델은 창작 및 전문 분야의 다른 AI 응용 분야에 대해 어떤 더 넓은 함의를 지닌다?

주요 결과

• DALL-E, Midjourney, Stable Diffusion와 같은 생성형 AI 모델들은 동의 없이도 보상 없이 저작권이 있는 예술 작품의 막대한 데이터셋을 학습 자료로 사용한다.
• 학습 과정은 인간 예술가들의 창작 노력이 기여 없이, 명시 없이, 보상 없이 추출되고 재사용된다는 점에서 노동 도용의 형태를 띤다.
• '확률적 폴락스'라는 용어는 AI 예술의 모순을 효과적으로 압축한다: 알고리즘적으로 무작위이지만 예술 창작을 모방하는 출력물이면서도 실제로는 인간 창작자의 진짜 노동을 지운다.
• 예술계가 AI 예술에 반대하는 시위 운동은 윤리적으로 타당한 주장에 기반하며, AI 시스템이 체계적으로 인간 예술 노동의 가치를 떨어뜨리고 대체하고 있음을 시사한다.
• AI 예술에서의 윤리적 실패는 국한된 문제가 아니며, AI 개발 전반에 걸쳐 노동 착취의 일반적인 패턴을 드러내며 다른 응용 분야에 대한 우려를 제기한다.
• 이 논문은 많은 다른 AI 응용 분야도 유사한 비윤리적 데이터 수확 방식에 의존할 가능성이 많으며, 이는 AI 혁신 전반에 걸친 체계적 문제임을 결론 내린다.