[論文レビュー] Copyright Violations and Large Language Models

Antonia Karamolegkou, Jiaang Li+2 more|arXiv (Cornell University)|Oct 20, 2023

Natural Language Processing Techniques被引用数 6

ひとこと要約

本研究では、ベストセラー本やLeetCodeのコーディング問題からのプロンプトを用いて、6つのモデルファミリーを対象に、大規模言語モデル（LLM）における著作権のあるテキストの verbatim メモリズエーション（正確な記憶）を調査した。結果として、より大きなモデルでは、テキスト断片を完全に再現する傾向が顕著に認められ、不正な再配布による著作権侵害の可能性が示唆された。

ABSTRACT

Language models may memorize more than just facts, including entire chunks of texts seen during training. Fair use exemptions to copyright laws typically allow for limited use of copyrighted material without permission from the copyright holder, but typically for extraction of information from copyrighted materials, rather than {\em verbatim} reproduction. This work explores the issue of copyright violations and large language models through the lens of verbatim memorization, focusing on possible redistribution of copyrighted text. We present experiments with a range of language models over a collection of popular books and coding problems, providing a conservative characterization of the extent to which language models can redistribute these materials. Overall, this research highlights the need for further examination and the potential impact on future developments in natural language processing to ensure adherence to copyright regulations. Code is at \url{https://github.com/coastalcph/CopyrightLLMs}.

研究の動機と目的

• 大規模言語モデル（LLM）が、訓練データからの著作権のあるテキスト断片を verbatim に記憶・再現できるかどうかを調査すること。
• 文学的作品およびコーディング問題という異なる種類の著作権対象コンテンツに対して、そのような記憶の程度が、多様なLLMファミリーにわたってどの程度であるかを評価すること。
• モデルサイズ、コンテンツの人気度、プロンプト工学が verbatim メモリズエーションに与える影響を調査すること。
• 今後のLLMと著作権準拠に関する法的・倫理的議論のための実証的データとメソドロジカルフレームワークを提供すること。

提案手法

• ベストセラー本の最初の文や完全な説明、LeetCodeのコーディング問題から抽出した特定のプロンプトを用いて、プロービング実験を実施した。
• 2つのプロービング戦略を採用した：テキスト再現を直接要求するプロンプトと、行単位で的確に照合するクエリ。
• 正確な文字列一致と意味的類似度の2つの指標を用いて、文脈に配慮した評価を実施し、verbatim メモリズエーションを測定した。
• モデルサイズの異なる6つの異なるLLMファミリーを対象に、記憶パターンとスケーラビリティを焦点として評価した。
• ソーステキストの人気指標（例：Web上での出現頻度）と記憶率の関係を分析した。
• 制御されたプロンプトを用いて、記憶が抑制されていた状態から再び引き出されるかどうかをテストし、潜在的な悪用シナリオを模擬した。

Figure 1: Verbatim memorization in large language models . Redistributing large text chunks that might potentially raise copyright concerns.

実験結果

リサーチクエスチョン

• RQ1 大規模言語モデルは、訓練データからの著作権のあるテキスト断片をどの程度正確に再現できるか？
• RQ2 モデルサイズは、著作権のあるコンテンツの verbatim メモリズエーション率にどのように影響するか？
• RQ3 テキストのオンライン上の人気が、LLMにおける記憶率の上昇と相関するか？
• RQ4 プロンプト工学により、以前は抑制されていた verbatim メモリズエーションが解き放たれる可能性はあるか？
• RQ5 異なるLLMファミリーは、著作権対象物の verbatim メモリズエーション能力において、どのように比較されるか？

主な発見

• より大きな言語モデルでは、著作権のあるテキスト断片の verbatim メモリズエーションがほぼ線形的に増加しており、モデル規模が記憶能力に相関していることが確認された。
• GPT-3.5 などのモデルは、LeetCodeの問題の完全な記述や、*The Boy Who Lived* のような本の最初の文を、完全に再現することができた。
• 一部のケースでは、幻覚的または部分的に誤ったテキスト（例：*Pinocchio* の最初の文を誤って表現）を生成した。これは、記憶が完璧ではないものの、依然として顕著であることを示唆している。
• 特定の行を要求された際には、幻覚的生成が発生した。これは、モデルが記憶済みのコンテンツと生成されたテキストを混ぜ合わせており、特に曖昧または不完全なクエリが与えられた場合に顕著であることを示している。
• プロンプト工学により、以前は抑制されていた記憶が解き放たれるのを確認した。これは、現在の結果が保守的であり、最適化された条件下では実際の記憶量がさらに高い可能性があることを示唆している。
• 本研究は、著作権のある資料の verbatim メモリズエーションが、複数のLLMファミリーにわたり、実証的かつ広範にわたって測定可能であることを確認した。これは、再配布や著作権侵害の深刻な懸念を呈している。

Figure 2: Results for verbatim memorization in books. The left figure illustrates the average LCS length of book outputs for each model family across various model sizes. The right figure shows the average LCS length per book across all models, showing which books are the most memorized ones on aver