[논문 리뷰] The Dark Side of ChatGPT: Legal and Ethical Challenges from Stochastic Parrots and Hallucination

Zihao Li|arXiv (Cornell University)|2023. 04. 21.

Artificial Intelligence in Healthcare and Education인용 수 36

한 줄 요약

본 논문은 stochastic parrots와 LLMs가 제기하는 법적·윤리적 위험이 현 EU AI 규제에 의해 과소평가될 수 있음을 경고하고, 유럽 규제 패러다임은 발전해야 한다고 주장한다.

ABSTRACT

With the launch of ChatGPT, Large Language Models (LLMs) are shaking up our whole society, rapidly altering the way we think, create and live. For instance, the GPT integration in Bing has altered our approach to online searching. While nascent LLMs have many advantages, new legal and ethical risks are also emerging, stemming in particular from stochastic parrots and hallucination. The EU is the first and foremost jurisdiction that has focused on the regulation of AI models. However, the risks posed by the new LLMs are likely to be underestimated by the emerging EU regulatory paradigm. Therefore, this correspondence warns that the European AI regulatory paradigm must evolve further to mitigate such risks.

연구 동기 및 목표

• 대형 언어 모델(LLMs)에서 stochastic parrots와 모델 환각과 관련된 법적·윤리적 위험을 강조한다.
• 이러한 위험을 완화하는 데 있어 기존의 European AI 규제의 충분성을 비판한다.
• 새로운 LLM 도전에 대응하기 위해 EU 규제 프레임워크의 발전을 촉구한다.

제안 방법

• LLM 동작(stochastic parrots와 hallucination)의 규제 시사점을 다루는 집중적 서신을 제공한다.
• 유럽의 AI 규제 패러다임과 그 투명성 의무를 비판적으로 분석한다.
• 관련 연구를 인용하여 규제의 격차를 실제 LLM 위험과 연결한다.

실험 결과

연구 질문

• RQ1 LLMs의 stochastic parrots와 hallucination이 제기하는 법적·윤리적 문제는 무엇인가?
• RQ2 현재의 EU AI 규제가 이러한 위험을 완화하기에 충분한가?
• RQ3 EU AI 규제는 LLM 특유의 위험에 더 잘 대응하도록 어떻게 발전해야 하는가?

주요 결과

• Stochastic parrots와 hallucination은 책임성, 투명성, 거버넌스에 대한 새로운 위험 프로파일을 만들어낸다.
• 현재 EU AI 규제 접근법은 이러한 위험을 과소평가하거나 충분히 다루지 못할 수 있다.
• LLM 관련 피해를 완화하기 위해 EU AI 법 안에서 투명성과 책무성 메커니즘의 진화를 위한 필요성이 있다.