[論文レビュー] Foundation Models and Fair Use

Peter Henderson, Xuechen Li+4 more|arXiv (Cornell University)|Mar 28, 2023

Digital Rights Management and Security被引用数 7

ひとこと要約

この論文は、米国のフェアユース法理に基づき、著作権のあるデータを基盤モデルにトレーニングする際の法的・倫理的リスクを検討しており、実験を通じて、こうしたモデルが保護された著作物に極めて類似したコンテンツを生成できることを示している。技術的緩和策を提案するとともに、法と技術の共進化を図ることで、コンプライアンスを確保するとともにイノベーションを維持する必要があると提言している。

ABSTRACT

Existing foundation models are trained on copyrighted material. Deploying these models can pose both legal and ethical risks when data creators fail to receive appropriate attribution or compensation. In the United States and several other countries, copyrighted content may be used to build foundation models without incurring liability due to the fair use doctrine. However, there is a caveat: If the model produces output that is similar to copyrighted data, particularly in scenarios that affect the market of that data, fair use may no longer apply to the output of the model. In this work, we emphasize that fair use is not guaranteed, and additional work may be necessary to keep model development and deployment squarely in the realm of fair use. First, we survey the potential risks of developing and deploying foundation models based on copyrighted content. We review relevant U.S. case law, drawing parallels to existing and potential applications for generating text, source code, and visual art. Experiments confirm that popular foundation models can generate content considerably similar to copyrighted material. Second, we discuss technical mitigations that can help foundation models stay in line with fair use. We argue that more research is needed to align mitigation strategies with the current state of the law. Lastly, we suggest that the law and technical mitigations should co-evolve. For example, coupled with other policy mechanisms, the law could more explicitly consider safe harbors when strong technical tools are used to mitigate infringement harms. This co-evolution may help strike a balance between intellectual property and innovation, which speaks to the original goal of fair use. But we emphasize that the strategies we describe here are not a panacea and more work is needed to develop policies that address the potential harms of foundation models.

研究の動機と目的

• 米国のフェアユース法理に基づき、インターネット上の著作権のあるデータを基盤モデルにトレーニングした際の法的リスクを分析すること。
• こうしたモデルの生成出力が、オリジナルの著作物の市場価値を侵害する可能性があるかどうかを評価すること。
• フェアユース原則に適合させるための技術的緩和戦略を同定すること。
• 知的財産権とAIイノベーションの両立を図るため、法と技術の共進化的アプローチを提唱すること。
• 機械学習研究者および法的専門家に対して実行可能な研究および政策的ガイダンスを提供すること。

提案手法

• 特に変換的利用および市場影響の文脈におけるフェアユースに関する米国の判例法を調査した。
• 基盤モデルの出力と著作権のあるトレーニングデータとの間の類似度が非常に高いことを実証する実験を実施した。
• テキスト生成（GPT）、コード合成（Codex）、画像生成（Stable Diffusion）を含む実世界の応用事例を分析した。
• データフィルタリング、ウォーターマーキング、プロンプト工学などの既存の技術的緩和戦略を評価した。
• 技術的ツールを法的基準に適合させるフレームワークを提案し、強力な緩和策が実施された場合には安全港（safe harbors）を設けるべきだと提言した。
• 技術的保護策を法的根拠として認めることでフェアユース保護が得られるとの立場を主張した。

実験結果

リサーチクエスチョン

• RQ1 基盤モデルは、著作権のあるトレーニングデータと著しく類似した出力をどれほど生成するのか？
• RQ2 基盤モデルの出力が市場競争力を持つ場合、フェアユース法理が依然として適用される条件は何か？
• RQ3 現在の技術的緩和戦略は、著作権侵害のリスクをどれほど低減できるのか？
• RQ4 技術的保護策を法的にフェアユース保護の根拠として認めることは可能か？
• RQ5 法と技術開発は、責任ある基盤モデルの展開を支援するために、どのように共進化できるか？

主な発見

• 実験により、GPT-3 や Stable Diffusion といった人気のある基盤モデルが、著作権のあるトレーニングデータと類似度の高い出力を生成できることを確認した。
• オリジナルの著作物を複製または置き換えるような生成出力は、市場損害を引き起こす可能性があるため、フェアユース防御が損なわれるおそれがある。
• データフィルタリングやウォーターマーキングなどの現在の技術的緩和策だけでは、フェアユースコンプライアンスを保証するには不十分である。
• 生成型基盤モデルに対してフェアユース法理が保証されるとは限らず、特に出力がオリジナルの著作物の経済的価値に影響を及ぼす場合には顕著である。
• 強力な技術的保護策が法的に認められれば、フェアユースへの道筋が開ける可能性があり、政策のイノベーションが求められる。
• フェアユースが適用されたとしても、クリエイティブ市場および労働市場におけるデータ作成者に対する深刻な被害は、技術的解決策だけではカバーできない。