[논문 리뷰] Regulating ChatGPT and other Large Generative AI Models

Philipp Hacker, Andreas Engel외 1명|arXiv (Cornell University)|2023. 02. 05.

Artificial Intelligence in Healthcare and Education인용 수 68

한 줄 요약

이 논문은 ChatGPT와 같은 대형 생성형 AI 모델을 어떻게 규제할지 분석하고, AI 가치 사슬의 다양한 주체에 맞춘 의무를 제시하며 투명성, 위험 관리, 콘텐츠 조정을 강조하는 프레임워크를 제시한다.

ABSTRACT

Large generative AI models (LGAIMs), such as ChatGPT, GPT-4 or Stable Diffusion, are rapidly transforming the way we communicate, illustrate, and create. However, AI regulation, in the EU and beyond, has primarily focused on conventional AI models, not LGAIMs. This paper will situate these new generative models in the current debate on trustworthy AI regulation, and ask how the law can be tailored to their capabilities. After laying technical foundations, the legal part of the paper proceeds in four steps, covering (1) direct regulation, (2) data protection, (3) content moderation, and (4) policy proposals. It suggests a novel terminology to capture the AI value chain in LGAIM settings by differentiating between LGAIM developers, deployers, professional and non-professional users, as well as recipients of LGAIM output. We tailor regulatory duties to these different actors along the value chain and suggest strategies to ensure that LGAIMs are trustworthy and deployed for the benefit of society at large. Rules in the AI Act and other direct regulation must match the specificities of pre-trained models. The paper argues for three layers of obligations concerning LGAIMs (minimum standards for all LGAIMs; high-risk obligations for high-risk use cases; collaborations along the AI value chain). In general, regulation should focus on concrete high-risk applications, and not the pre-trained model itself, and should include (i) obligations regarding transparency and (ii) risk management. Non-discrimination provisions (iii) may, however, apply to LGAIM developers. Lastly, (iv) the core of the DSA content moderation rules should be expanded to cover LGAIMs. This includes notice and action mechanisms, and trusted flaggers. In all areas, regulators and lawmakers need to act fast to keep track with the dynamics of ChatGPT et al.

연구 동기 및 목표

• 전통적인 AI 규제를 넘어 대형 생성형 AI 모델(LGAIMs)의 규제를 촉진한다.
• AI 가치 사슬 내의 주체들(개발자, 배포자, 전문/비전문 사용자, 수혜자)을 구분하고 이에 따라 의무를 맞춤화한다.
• 다층적 규제 접근 방식(최저 기준, 고위험 의무, 가치 사슬 전반의 협력)을 제안한다.
• 제안된 규제가 기존 프레임워크(AI Act, DSA)와 정렬되도록 하며 LGAIM의 고유한 기능을 다룬다.

제안 방법

• 규제 논의를 뒷받침하기 위해 LGAIMs의 기술적 기초를 제시한다.
• LGAIMs를 위한 새로운 용어 체계와 가치 사슬 구분을 개발한다(개발자, 배포자, 전문/비전문 사용자, 수혜자).
• 가치 사슬을 따라 배우 유형과 사용 사례에 맞춰 의무를 맞춤화한다.
• 의무의 세 가지 계층(최저, 고위험, 협력)을 주장하고 사전 학습된 모델보다 고위험 적용에 초점을 맞춘다.
• 투명성, 위험 관리, 차별 금지 조항, 통지 및 신뢰받는 플래그 담당자와 함께 확장된 DSA 스타일의 콘텐츠 조정을 제안한다.

실험 결과

연구 질문

• RQ1 How should direct regulation, data protection, content moderation, and policy be calibrated for LGAIMs?
• RQ2 What regulatory duties should apply to the different actors along the LGAIM value chain?
• RQ3 How can existing regimes (AI Act, DSA) be adapted to address the specifics of LGAIMs?
• RQ4 What concrete measures (transparency, risk management, non-discrimination) are appropriate for LGAIM deployment and use?
• RQ5 What is the role of notice mechanisms and trusted flaggers in content moderation for LGAIMs?

주요 결과

• 규제의 초점을 사전 학습된 모델 그 자체보다는 구체적인 고위험 응용에 두는 것을 제안한다.
• 가치 사슬을 따라 최소 표준, 고위험 의무, 그리고 교차적 협력의 3단계 의무 구조를 주장한다.
• LGAIM에 대한 투명성 및 위험 관리의 핵심 규제 요건으로 통합하는 것을 제안한다.
• 차별 금지 조항을 LGAIM 개발자에게 적용할 수 있도록 한다.
• DSA의 핵심 콘텐츠 조정 규칙을 LGAIM에 적용하도록 확장하되 고지, 조치, 신뢰받는 플래그 담당자와 같은 메커니즘을 포함한다.