[논문 리뷰] General Purpose Artificial Intelligence Systems (GPAIS): Properties, Definition, Taxonomy, Societal Implications and Responsible Governance

Isaac Triguero, Daniel Molina외 3명|arXiv (Cornell University)|2023. 07. 26.

Ethics and Social Impacts of AISocial Sciences참고 문헌 119인용 수 3

한 줄 요약

이 논문은 일반 목적 인공지능 시스템(GPAIS)에 대한 종합적인 정의와 분류 체계를 제안하며, 자율성, 적응성, 자기 인식 능력에 기반해 폐쇄세계형과 개방세계형 GPAIS를 구분한다. GPAIS는 AI 기반 AI와 단일 기초 모델 접근 방식으로 분류되며, 생성형 AI와 다중모odal리티가 핵심 추진력이 되며, 이러한 시스템의 안전하고 통제 가능한 구현을 보장하기 위해 책임감 있는 거버넌스 및 신뢰성 프레임워크를 주장한다.

ABSTRACT

Most applications of Artificial Intelligence (AI) are designed for a confined and specific task. However, there are many scenarios that call for a more general AI, capable of solving a wide array of tasks without being specifically designed for them. The term General-Purpose Artificial Intelligence Systems (GPAIS) has been defined to refer to these AI systems. To date, the possibility of an Artificial General Intelligence, powerful enough to perform any intellectual task as if it were human, or even improve it, has remained an aspiration, fiction, and considered a risk for our society. Whilst we might still be far from achieving that, GPAIS is a reality and sitting at the forefront of AI research. This work discusses existing definitions for GPAIS and proposes a new definition that allows for a gradual differentiation among types of GPAIS according to their properties and limitations. We distinguish between closed-world and open-world GPAIS, characterising their degree of autonomy and ability based on several factors such as adaptation to new tasks, competence in domains not intentionally trained for, ability to learn from few data, or proactive acknowledgment of their own limitations. We propose a taxonomy of approaches to realise GPAIS, describing research trends such as the use of AI techniques to improve another AI (AI-powered AI) or (single) foundation models. As a prime example, we delve into GenAI, aligning them with the concepts presented in the taxonomy. We explore multi-modality, which involves fusing various types of data sources to expand the capabilities of GPAIS. Through the proposed definition and taxonomy, our aim is to facilitate research collaboration across different areas that are tackling general purpose tasks, as they share many common aspects. Finally, we discuss the state of GPAIS, prospects, societal implications, and the need for regulation and governance.

연구 동기 및 목표

• 일반 목적 인공지능 시스템(GPAIS)에 대해 자율성 및 능력 수준의 다양성을 반영할 수 있는 명확하고 확장 가능한 정의가 부족한 문제를 해결하기 위해.
• 기본 메커니즘에 기반한 GPAIS의 분류 체계를 수립하여 AI 기반 AI와 단일 기초 모델 간의 차이를 명확히 하기 위해.
• 생성형 AI와 다중모달리티가 GPAIS 능력 향상에 미치는 역할을 분석하기 위해.
• 특히 안전성, 통제 가능성, 신뢰성 측면에서 GPAIS의 열린 도전 과제와 사회적 영향을 규명하기 위해.
• GPAIS의 신뢰성 있고 통제 가능한 개발을 보장하기 위해 책임감 있는 거버넌스 및 규제 프레임워크를 제안하기 위해.

제안 방법

• 소수 샘플 학습, 전이 학습, 한계에 대한 사전 자각 능력 등의 특성을 강조하는 새로운 GPAIS 정의를 제안한다.
• 적응 능력이 제한된 폐쇄세계형 GPAIS와 높은 자율성 및 자기 향상 능력을 지닌 개방세계형 GPAIS를 구분하는 분류 체계를 도입한다.
• GPAIS를 두 가지 주요 유형으로 분류: AI 기반 AI(다른 AI를 설계하거나 최적화하기 위해 AI를 사용하는)와 단일 기초 모델(광범위한 데이터로 훈련된 단일 모델).
• 생성형 AI와 다중모달 시스템을 GPAIS의 핵심 실현 수단으로 분석하며, 다양한 입력에 걸쳐 제로샷 및 소수 샘플 일반화를 가능하게 하는 역할을 강조한다.
• NIST AI 리스크 관리 프레임워크(NIST AI RMF)에 기반해 GPAIS의 신뢰성을 매핑하여, 안전성, 공정성, 설명 가능성 등 일곱 가지 차원에 걸쳐 총 150개의 신뢰성 특성을 규명한다.
• 개발자에 대한 법적 책임과 모델 능력 수준에 기반한 안전 기준을 포함한 거버넌스 메커니즘을 제안한다.

실험 결과

연구 질문

• RQ1 어떻게 자율성과 일반화 능력의 다양성을 반영할 수 있는 형식적 정의를 통해 GPAIS를 정의할 수 있는가?
• RQ2 GPAIS를 구축하기 위한 주요 기술적 접근 방식은 무엇이며, 아키텍처와 능력 측면에서 어떻게 다를 수 있는가?
• RQ3 현재의 기초 모델과 생성형 AI 시스템이 훈련 분포를 초월해 진정으로 일반화 능력을 보여주는 정도는 어느 정도인가?
• RQ4 특히 개방세계 상황에서 GPAIS를 어떻게 안전하고 통제 가능하며, 신뢰할 수 있도록 만들 수 있는가?
• RQ5 GPAIS의 책임감 있는 개발 및 배포를 보장하기 위해 필요한 규제 및 거버넌스 프레임워크는 무엇인가?

주요 결과

• 제안된 GPAIS 정의를 통해 적응성, 자기 인식 능력, 소수 샘플 학습 능력에 기반해 폐쇄세계형과 개방세계형 시스템 간의 세밀한 차이를 구분할 수 있다.
• 분류 체계는 GPAIS로 향하는 두 가지 주요 길을 규명한다: AI 기반 AI(다중 AI 시스템의 조율)와 단일 기초 모델(단일 모듈러, 다중 작업 학습).
• 생성형 AI와 다중모달 시스템은 특히 다양한 입력에 걸쳐 제로샷 및 소수 샘플 일반화를 가능하게 하여 GPAIS의 핵심 추진력이 됨을 입증한다.
• 현재의 GPAIS는 AGI에 도달하지 못하고 있지만, 추론, 적응, 작업 이행 능력에서 잠재적 능력을 보이며, 전체적으로 인간 수준의 의식이나 주도성은 아직 갖추지 못하고 있다.
• 법적 책임을 지닌 개발자와 모델 능력 수준에 기반한 안전 기준을 포함한 거버넌스 프레임워크가 필수적이다. 이는 예측 가능한 피해를 방지하기 위함이다.
• NIST AI RMF에 150개의 특성을 매핑함으로써 GPAIS의 신뢰성을 체계적으로 다룰 수 있으며, 이는 안전성, 공정성, 투명성, 내구성 등을 포함한다.