[논문 리뷰] Ethical Artificial Intelligence Principles and Guidelines for the Governance and Utilization of Highly Advanced Large Language Models

Soaad Hossain, Syed Ishtiaque Ahmed|arXiv (Cornell University)|2023. 12. 19.

Artificial Intelligence in Healthcare and Education인용 수 4

한 줄 요약

이 논문은 인간 지능을 초월할 가능성이 있는 고도로 발전한 대규모 언어 모델(LLM)에 대한 사전적 거버넌스 프레임워크를 제안한다. 이는 기존 윤리적 AI 원칙—특히 책임성, 내구성, 기술 오용 방지—에 기반하며, 유네스코 및 EU의 사회적·환경적 복지와 안전 지침을 통합한다. 이 프레임워크는 이러한 모델이 인간 지능을 초월하기 이전에 발생할 수 있는 돌이킬 수 없는 해를 방지하기 위해 약물과 유사한 사전 배포 점검을 주장한다.

ABSTRACT

Given the success of ChatGPT, LaMDA and other large language models (LLMs), there has been an increase in development and usage of LLMs within the technology sector and other sectors. While the level in which LLMs has not reached a level where it has surpassed human intelligence, there will be a time when it will. Such LLMs can be referred to as advanced LLMs. Currently, there are limited usage of ethical artificial intelligence (AI) principles and guidelines addressing advanced LLMs due to the fact that we have not reached that point yet. However, this is a problem as once we do reach that point, we will not be adequately prepared to deal with the aftermath of it in an ethical and optimal way, which will lead to undesired and unexpected consequences. This paper addresses this issue by discussing what ethical AI principles and guidelines can be used to address highly advanced LLMs.

연구 동기 및 목표

• 인간 지능을 초월할 잠재력이 있는 고도로 발전한 LLMs에 대해 윤리적 AI 거버넌스 프레임워크가 부족한 상황임에도 불구하고 이를 해결하고자 한다.
• 고도로 발전한 LLMs가 초래하는 고유한 위험에 대응하기 위해 기존 윤리적 AI 원칙과 지침을 식별하고 적응시키고자 한다.
• 고도로 발전한 LLMs가 배포되기 전에 정책 수립의 긴급성을 강조하고자 하며, 이는 돌이킬 수 없는 사회적·환경적 피해를 초래할 수 있기 때문이다.
• 안전성과 책임성을 보장하기 위해 약물 승인 절차를 모델로 삼은 규제 모델을 제안하고자 한다.
• 현재의 AI 정책 프레임워크를 넘어서 고도로 발전한 LLMs의 윤리적 거버넌스에 대한 추가 연구를 자극하고자 한다.

제안 방법

• 오스트레일리아 정부의 책임성 정의를 수용하여, AI 결과에 대해 전체 시스템 수명 주기 동안 책임을 지도록 한다.
• 아프리카 공동체의 내구성에 대한 시각을 통합하여 윤리적, 법적, 사회문화적 영향 완화를 중시한다.
• 유네스코의 11개 윤리적 AI 지침을 적용하여 고도로 발전한 LLMs의 환경적 및 건강 영향을 평가한다. 특히 사회적·환경적 복지에 관한 지침을 중심으로 한다.
• EU의 안전 지침을 통합하여 내성성, 대체 메커니즘, 정확성 및 신뢰성에 중점을 둔다.
• 유네스코의 책임성 지침을 활용하여 고도로 발전한 LLMs의 추적 가능성, 감시 및 감사 메커니즘을 확보한다.
• 고위험 AI 시스템을 관리하기 위해 약물 규제를 모델로 삼은 사전 배포 점검 및 승인 절차를 제안한다.

실험 결과

연구 질문

• RQ1 인간 지능을 초월하기 전에 고도로 발전한 LLMs를 거버넌스하기 위해 가장 관련성이 높은 윤리적 AI 원칙은 무엇인가?
• RQ2 유네스코 및 EU의 기존 윤리적 AI 지침은 고도로 발전한 LLMs가 초래하는 고유한 위험에 어떻게 적응시킬 수 있는가?
• RQ3 고도로 발전한 LLMs의 윤리적, 법적, 사회문화적 영향을 사전에 완화하기 위해 어떤 정책 메커니즘이 구현될 수 있는가?
• RQ4 의약품과 같은 고위험 분야의 규제 모델은 고도로 발전한 LLMs에 어느 정도 적용될 수 있는가?
• RQ5 고도로 발전한 LLMs가 사회 및 환경에 돌이킬 수 없는 해를 입히지 않도록 하기 위한 주요 고려사항은 무엇인가?

주요 결과

• 책임성, 내구성, 기술 오용 방지와 같은 윤리적 AI 원칙은 고도로 발전한 LLMs를 거버넌스하는 데 필수적이다.
• 유네스코의 사회적·환경적 복지 지침은 조직이 AI 수명 주기 전반에 걸쳐 직접적 및 간접적 환경 영향을 평가하도록 요구한다.
• EU의 안전 지침은 내성성, 대체 메커니즘, 그리고 신뢰성을 강조하며, 이는 고도로 발전한 LLMs에게 매우 중요하다.
• 인간 권리 및 환경 기준 준수를 보장하기 위해 감시 및 감사 기록과 같은 책임성 메커니즘이 필요하다.
• 고도로 발전한 LLMs가 광범위하게 돌이킬 수 없는 피해를 초래할 수 있기 때문에, 약물 스타일의 승인 절차가 권장된다.
• 기존 윤리적 AI 프레임워크는 고도로 발전한 LLMs의 고유한 능력—예를 들어 새로운 아이디어를 생성하거나 이전에는 불가능했던 작업을 수행하는 능력—을 포함하도록 확장되어야 한다.