[論文レビュー] Where's the Liability in Harmful AI Speech?

Peter Henderson, Tatsunori Hashimoto+1 more|arXiv (Cornell University)|Aug 9, 2023

Law, AI, and Intellectual Property被引用数 6

ひとこと要約

この論文は、大規模言語モデルが生成する有害な発言について、米国法上の法的責任を検討し、現在の法制度（例：第230条）が曖昧な自己免責を提供しており、責任の有無が技術的設計の選択に大きく依存することを主張している。本論文は、安全なAI開発を促進するための、設計に配慮した、洗練された規制的方針を提言する。

ABSTRACT

Generative AI, in particular text-based "foundation models" (large models trained on a huge variety of information including the internet), can generate speech that could be problematic under a wide range of liability regimes. Machine learning practitioners regularly "red team" models to identify and mitigate such problematic speech: from "hallucinations" falsely accusing people of serious misconduct to recipes for constructing an atomic bomb. A key question is whether these red-teamed behaviors actually present any liability risk for model creators and deployers under U.S. law, incentivizing investments in safety mechanisms. We examine three liability regimes, tying them to common examples of red-teamed model behaviors: defamation, speech integral to criminal conduct, and wrongful death. We find that any Section 230 immunity analysis or downstream liability analysis is intimately wrapped up in the technical details of algorithm design. And there are many roadblocks to truly finding models (and their associated parties) liable for generated speech. We argue that AI should not be categorically immune from liability in these scenarios and that as courts grapple with the already fine-grained complexities of platform algorithms, the technical details of generative AI loom above with thornier questions. Courts and policymakers should think carefully about what technical design incentives they create as they evaluate these issues.

研究の動機と目的

• 生成AIモデルが有害または虚偽の発言について、法的に責任を問われるかどうか、またどのように問われるかを評価すること。
• リtrieval増強生成や人間からのフィードバックによる強化学習といった技術的設計意思決定が、法的責任および第230条の自己免責にどのように影響するかを検討すること。
• AIモデル行動の技術的側面を十分に反映していない、現在の法的枠組みにおけるギャップを特定すること。
• 責任基準を、責任あるAI開発および技術的緩和戦略と整合させる、洗練された法的方針を提言すること。

提案手法

• 名誉棄損、犯罪行為の核心的発言、不正死の3つの核心的責任制度を分析する。
• 具体的なレッドチームシナリオ（例：虚偽の告発、爆弾製造法の説明）を法的原則と技術的モデル行動にマッピングする。
• 抽出型、リトリーブ増強型、ファインチューニング済みモデルを含む、さまざまなモデルアーキテクチャにおける第230条の自己免責の適用を評価する。
• 虚偽の事実に関する主張において、意図や「心の状態」（mens rea）が責任の帰属に果たす役割を評価する。
• 明示的採用がなされた場合に、免責条項として機能する技術的ベストプラクティス（例：免責表示、恒久的出力に対する通知・削除措置、トピック別制限）のフレームワークを提言する。
• 広範な自己免責から、技術的設計に配慮した細分化された責任制度への移行を提唱する。

実験結果

リサーチクエスチョン

• RQ1 基盤モデルの技術的アーキテクチャが、米国法下での法的責任にどのように影響するか。
• RQ2 第230条の自己免責が生成AI出力にどの程度適用可能であり、さまざまなモデル設計によってどのように変動するか。
• RQ3 AIが意識を持たない場合でも、AI生成の有害発言に対する責任の帰属において、意図または「心の状態」（state of mind）が果たす役割は何か。
• RQ4 リトリーブ増強生成やRLHFといった技術的緩和戦略が、法的免責条項として機能できるか。
• RQ5 法的責任制度を再設計することで、より安全で正確なAIシステムの開発を促進する方法は何か。

主な発見

• 第230条の自己免責は、基盤モデルに一貫して適用されるものではなく、出力が第三者のコンテンツとみなされるか、それともモデル自身が生成したものとみなされるかに大きく依存する。
• リトリーブ増強生成や抽出型手法を用いるモデルは、純粋に生成型のモデルよりも第230条の保護を享受する可能性が高い。
• 名誉棄損、犯罪行為、不正死の責任制度下では、虚偽または有害な発言に対して責任を問う可能性は存在するが、それは技術的設計および意図の帰属に依存する。
• AIに意識的意図がないことから、従来のmens rea要件の適用が複雑化し、責任の帰属がシステム設計および制御メカニズムに強く依存するようになる。
• 免責表示、恒久的出力に対する通知・削除措置、トピック別制限といったベストプラクティスは、公式に採用された場合、法的免責条項として機能する可能性がある。
• 現在の法制度は、自己免責を維持するために安全機能を回避するような、最適でない技術的選択を間接的に奨励しており、より安全なAI開発の公共の利益を損なうおそれがある。