[논문 리뷰] Copyright Violations and Large Language Models

Antonia Karamolegkou, Jiaang Li외 2명|arXiv (Cornell University)|2023. 10. 20.

Natural Language Processing Techniques인용 수 6

한 줄 요약

이 연구는 대규모 언어 모델에서 저작권 보호된 텍스트의 그대로 복제(memorization)를 조사하기 위해 베스트셀러 책과 LeetCode 코딩 문제에서 유래한 프롬프트를 사용해 여섯 가지 모델 패밀리에 대한 프로빙을 수행한다. 결과적으로 더 큰 모델일수록 전체 텍스트 조각을 그대로 복제하는 경향을 보이며, 이는 무단 배포를 통한 저작권 침해 가능성을 시사한다.

ABSTRACT

Language models may memorize more than just facts, including entire chunks of texts seen during training. Fair use exemptions to copyright laws typically allow for limited use of copyrighted material without permission from the copyright holder, but typically for extraction of information from copyrighted materials, rather than {\em verbatim} reproduction. This work explores the issue of copyright violations and large language models through the lens of verbatim memorization, focusing on possible redistribution of copyrighted text. We present experiments with a range of language models over a collection of popular books and coding problems, providing a conservative characterization of the extent to which language models can redistribute these materials. Overall, this research highlights the need for further examination and the potential impact on future developments in natural language processing to ensure adherence to copyright regulations. Code is at \url{https://github.com/coastalcph/CopyrightLLMs}.

연구 동기 및 목표

• 대규모 언어 모델(Large Language Models, LLMs)이 훈련 데이터에서 저작권 보호된 텍스트 조각을 그대로 기억하고 재생산할 수 있는지 조사하기 위해.
• 다양한 LLM 패밀리와 저작권 보호된 콘텐츠 유형(문학 작품 및 코딩 문제) 간에 이러한 기억의 정도를 평가하기 위해.
• 모델 크기, 콘텐츠 인기, 프롬프트 엔지니어링이 그대로 복제에 미치는 영향을 탐색하기 위해.
• 향후 LLM과 저작권 준수에 관한 법적 및 윤리적 논의를 위한 실증 데이터와 방법론 프레임워크를 제공하기 위해.

제안 방법

• 베스트셀러 책의 첫 문장이나 전체 기술서 또는 LeetCode 코딩 문제에서 유도된 특정 프롬프트를 사용해 프로빙 실험을 수행하였다.
• 직접 텍스트 재생산 요청과 선형별 타겟팅 질의를 포함한 두 가지 프로빙 전략을 적용하였다.
• 정확한 문자열 일치와 의미적 유사도를 측정 지표로 사용하여 맥락 인식 평가를 수행하였다.
• 다양한 크기의 모델을 대상으로 여섯 가지 다른 LLM 패밀리에 대해 기억 패턴과 확장성의 특성을 분석하였다.
• 원본 텍스트의 인기 지표(예: 웹에서의 보편성)와 기억률 간의 관계를 분석하였다.
• 통제된 프롬프트를 사용하여 기억이 이전에 억제된 상태에서 해제되는지 테스트하였으며, 잠재적 악용 시나리오를 시뮬레이션하였다.

Figure 1: Verbatim memorization in large language models . Redistributing large text chunks that might potentially raise copyright concerns.

실험 결과

연구 질문

• RQ1 대규모 언어 모델이 훈련 데이터에서 저작권 보호된 텍스트 조각을 얼마나 정확하게 전체적으로 그대로 재생산할 수 있는가?
• RQ2 모델 크기가 저작권 보호된 콘텐츠의 그대로 복제 비율에 어떤 영향을 미치는가?
• RQ3 텍스트의 온라인 인기와 모델 내 기억률 간에 상관관계가 있는가?
• RQ4 프롬프트 엔지니어링을 통해 이전에 억제된 그대로 복제 기억이 해제될 수 있는가?
• RQ5 다른 LLM 패밀리 간에 저작권 보호 자료의 그대로 복제 능력에 어떤 차이가 있는가?

주요 결과

• 더 큰 언어 모델일수록 저작권 보호된 텍스트 조각의 그대로 복제 비율이 거의 선형적으로 증가함을 확인하였으며, 이는 모델 규모가 기억 능력과 관련이 있음을 입증한다.
• GPT-3.5와 같은 모델들은 LeetCode의 전체 문제 기술서나 *The Boy Who Lived*와 같은 책의 첫 문장을 종종 높은 정확도로 재생산할 수 있었다.
• 어떤 경우에서는 환각 또는 부분적으로 잘못된 텍스트(예: *Pinocchio*의 첫 문장을 잘못 표현)를 생성하여, 기억이 완벽하지는 않지만 여전히 상당한 수준임을 시사한다.
• 특정 라인을 요청했을 때 환각 현상이 발생하여, 모델이 기억된 내용과 생성된 텍스트를 혼합하는 것으로 나타났으며, 특히 모호하거나 불완전한 질의가 들어올 경우 더욱 두드러졌다.
• 프롬프트 엔지니어링을 통해 이전에 억제된 기억이 해제되는 것을 입증하였으며, 이는 현재 결과가 보수적이며 최적화된 조건에서는 실제 기억 수준이 더 높을 수 있음을 시사한다.
• 이 연구는 저작권 보호 자료의 그대로 복제가 다수의 LLM 패밀리에서 실제로 측정 가능하고 널리 퍼져 있음을 확인하였으며, 잠재적 배포 및 저작권 침해에 심각한 우려를 제기한다.

Figure 2: Results for verbatim memorization in books. The left figure illustrates the average LCS length of book outputs for each model family across various model sizes. The right figure shows the average LCS length per book across all models, showing which books are the most memorized ones on aver