[論文レビュー] Combatting deepfakes: Policies to address national security threats and rights violations

A Miotti, Akash R. Wasil|arXiv (Cornell University)|Feb 14, 2024

Internet Traffic Analysis and Secure E-voting被引用数 4

ひとこと要約

本論文は、深偽コンテンツの作成と拡散を防ぐために、モデル開発者、提供者、コンピューティングプラットフォームを含む、供給チェーン全体にわたり責任を負わせる包括的で包括的な規制枠組みを提案する。過失に基づく責任を主張し、非合意的ポルノ、だまし、違法コンテンツに対する技術的対策を義務づけ、その主な成果は深偽コンテンツのライフサイクルの全段階にわたり、システム的防止を実現することである。

ABSTRACT

This paper provides policy recommendations to address threats from deepfakes. First, we provide background information about deepfakes and review the harms they pose. We describe how deepfakes are currently used to proliferate sexual abuse material, commit fraud, manipulate voter behavior, and pose threats to national security. Second, we review previous legislative proposals designed to address deepfakes. Third, we present a comprehensive policy proposal that focuses on addressing multiple parts of the deepfake supply chain. The deepfake supply chain begins with a small number of model developers, model providers, and compute providers, and it expands to include billions of potential deepfake creators. We describe this supply chain in greater detail and describe how entities at each step of the supply chain ought to take reasonable measures to prevent the creation and proliferation of deepfakes. Finally, we address potential counterpoints of our proposal. Overall, deepfakes will present increasingly severe threats to global security and individual liberties. To address these threats, we call on policymakers to enact legislation that addresses multiple parts of the deepfake supply chain.

研究の動機と目的

• 個人の権利、国家安全保障、および民主的制度に対する深偽コンテンツの増大する脅威に対処すること。
• モデル開発者から最終ユーザーに至るまで、深偽コンテンツ供給チェーンにおけるシステム的脆弱性を特定すること。
• 最終作成者にとどまらず、上流の提供者まで責任を拡大する、実行可能な立法的措置を提案すること。
• 透かし技術のような技術的解決策の限界を補うために、規制的介入を提唱すること。
• 政府が深偽コンテンツの被害が広がる前に対策を講じられる、実行可能な政策のブループrintを提供すること。

提案手法

• 深偽コンテンツ生成を防ぐための技術的制御を実施する義務を負う、過失に基づく責任モデルをモデル開発者に適用すること。
• 訓練データが違法コンテンツ（例：児童ポルノ）を含まないことをモデル開発者が保証することを義務づけること。
• モデル提供者およびコンピューティングプラットフォームに対して、ユーザー行動の監視および深偽コンテンツ生成の試みの検出を義務づけること。
• 悪意あるユーザーがAIツールを悪用して有害なコンテンツを作成できないように、アクセス制御を実装すること。
• 英国のオンライン安全法（Online Safety Act）など既存の法制度と統合しながら、責任を上流へ拡大すること。
• 深偽コンテンツの作成および拡散を犯罪化する立法を提唱し、被害者に救済を提供すること。

Figure 1: Representation of the deepfake supply chain. The supply chain begins narrow with a relatively small number of model developers, model providers, and compute providers. At the end of the supply chain, an extremely large number of users have the potential to create deepfakes.

実験結果

リサーチクエスチョン

• RQ1 どのような規制枠組みが、AI供給チェーン全体にわたり深偽コンテンツの拡散を効果的に削減できるか？
• RQ2 モデル開発者が、非合意的ポルノの深偽コンテンツ生成に使われるのを防ぐために、どのような技術的・法的措置を講じられるか？
• RQ3 なぜ透かし技術は深偽コンテンツ被害に対する主たる解決策として不適切であり、その技術的限界は何か？
• RQ4 コンピューティングプロバイダーおよびモデルプロバイダーといった上流の参加者に対して、どのように責任を負わせ、深偽コンテンツの作成を防げるか？
• RQ5 AI分野のイノベーションと個人の権利、国家安全保障の保護の両立を実現するための政策的メカニズムは何か？

主な発見

• 2022年から2023年の間に、深偽ポルノコンテンツは400％以上増加し、被害者の99％が女性で、99.6％の児童ポルノの深偽コンテンツが女性を対象としていた。
• 同じ期間に、深偽詐欺事件は3,000％増加し、金融および企業セキュリティに対する脅威が顕著に増大していることが示された。
• 透かし技術は、意思ある攻撃者によって容易に削除可能であるため、単独での解決策として実用的ではない。
• 米国では、深偽コンテンツを特に標的とした連邦法が存在せず、現在の法律は非合意的ポルノの深偽コンテンツに対処するのに不十分である。
• 国防総省（Department of Defense）およびホームランドセキュリティ部門（Department of Homeland Security）は、両者とも深偽コンテンツを国家安全保障およびサイバーインfraの主な脅威と特定している。
• 開発者、提供者、プラットフォームを、合理的な注意義務の基準に従って責任を負わせる供給チェーンアプローチは、最終ユーザーにのみ焦点を当てるのとは対照的に、より効果的かつ実行可能である。