[論文レビュー] Regulating ChatGPT and other Large Generative AI Models

Philipp Hacker, Andreas Engel+1 more|arXiv (Cornell University)|Feb 5, 2023

Artificial Intelligence in Healthcare and Education被引用数 68

ひとこと要約

本論文は、ChatGPT のような大規模生成AIモデルの規制方法を分析し、AI価値連鎖に沿う異なるアクターに対して職務を適合させ、透明性・リスク管理・コンテンツモデレーションを強調する枠組みを提案する。

ABSTRACT

Large generative AI models (LGAIMs), such as ChatGPT, GPT-4 or Stable Diffusion, are rapidly transforming the way we communicate, illustrate, and create. However, AI regulation, in the EU and beyond, has primarily focused on conventional AI models, not LGAIMs. This paper will situate these new generative models in the current debate on trustworthy AI regulation, and ask how the law can be tailored to their capabilities. After laying technical foundations, the legal part of the paper proceeds in four steps, covering (1) direct regulation, (2) data protection, (3) content moderation, and (4) policy proposals. It suggests a novel terminology to capture the AI value chain in LGAIM settings by differentiating between LGAIM developers, deployers, professional and non-professional users, as well as recipients of LGAIM output. We tailor regulatory duties to these different actors along the value chain and suggest strategies to ensure that LGAIMs are trustworthy and deployed for the benefit of society at large. Rules in the AI Act and other direct regulation must match the specificities of pre-trained models. The paper argues for three layers of obligations concerning LGAIMs (minimum standards for all LGAIMs; high-risk obligations for high-risk use cases; collaborations along the AI value chain). In general, regulation should focus on concrete high-risk applications, and not the pre-trained model itself, and should include (i) obligations regarding transparency and (ii) risk management. Non-discrimination provisions (iii) may, however, apply to LGAIM developers. Lastly, (iv) the core of the DSA content moderation rules should be expanded to cover LGAIMs. This includes notice and action mechanisms, and trusted flaggers. In all areas, regulators and lawmakers need to act fast to keep track with the dynamics of ChatGPT et al.

研究の動機と目的

• 従来のAI規制を超えた大規模生成AIモデル（LGAIMs）の規制を促す。
• AI価値連鎖のアクター（開発者、導入者、ユーザー、受益者）を区別し、それに応じて職務を適合させる。
• マルチレイヤーの規制アプローチ（最低基準、ハイリスク義務、バリューチェーンに沿った協力）を提案する。
• 既存の枠組み（AI Act、DSA）と整合させつつ、LGAIMの独自能力に対処する。

提案手法

• 規制論議の基礎を固めるためにLGAIMの技術的基盤を整理する。
• LGAIMの新しい用語と価値連鎖の区別を開発する（開発者、導入者、専門/非専門のユーザー、受益者）。
• 価値連鎖に沿ったアクタータイプと利用ケースに義務を適合させる。
• 三層の義務（最低基準、ハイリスク、協力）を主張し、事前トレーニング済みモデルよりもハイリスクな応用に焦点を当てる。
• 透明性、リスク管理、差別禁止条項、および通知と信頼できるフラグ付け者を備えたDSA風の拡張コンテンツモデレーションを提案する。

実験結果

リサーチクエスチョン

• RQ1 LGAIMs に対する直接規制、データ保護、コンテンツモ moderation、政策をどのように調整すべきか？
• RQ2 LGAIM価値連鎖の異なるアクターにはどのような規制義務が適用されるべきか？
• RQ3 既存の regime（AI Act、DSA）をLGAIMの特徴に合わせてどのように適応させるべきか？
• RQ4 透明性、リスク管理、非差別の具体的措置はLGAIMの展開と利用に対してどのように適切か？
• RQ5 通知メカニズムと信頼できるフラグ付け者の役割はLGAIMのコンテンツモデレーションにおいてどのようなものか？

主な発見

• 規制を事前トレーニング済みモデル自体ではなく、具体的なハイリスク応用に焦点化して提案。
• 三層の義務構造：最低基準、ハイリスク義務、バリュー連鎖全体にわたる協力を推奨。
• 透明性とリスク管理をLGAIMの核心的規制要件として統合することを提案。
• LGAIMの開発者に対する差別禁止条項を適用可能。
• DSA のコンテンツモデレーション規則を拡張して、通知、行動、信頼できるフラグ付け者といった機構を備えたLGAIMを対象に拡張する。