[논문 리뷰] Levels of AGI for Operationalizing Progress on the Path to AGI

Meredith Ringel Morris, Jascha Sohl‐Dickstein외 6명|arXiv (Cornell University)|2023. 11. 04.

Data Quality and Management인용 수 45

한 줄 요약

이 논문은 성능(깊이)과 일반성(넓이)에 기반한 AGI를 위한 2차원, 계층화된 온톨로지 제안하고, 여섯 가지 지침을 정의하며 벤치마크, 위험, 인간-AI 상호작용의 함의를 AGI 경로에 대해 논의한다.

ABSTRACT

We propose a framework for classifying the capabilities and behavior of Artificial General Intelligence (AGI) models and their precursors. This framework introduces levels of AGI performance, generality, and autonomy, providing a common language to compare models, assess risks, and measure progress along the path to AGI. To develop our framework, we analyze existing definitions of AGI, and distill six principles that a useful ontology for AGI should satisfy. With these principles in mind, we propose "Levels of AGI" based on depth (performance) and breadth (generality) of capabilities, and reflect on how current systems fit into this ontology. We discuss the challenging requirements for future benchmarks that quantify the behavior and capabilities of AGI models against these levels. Finally, we discuss how these levels of AGI interact with deployment considerations such as autonomy and risk, and emphasize the importance of carefully selecting Human-AI Interaction paradigms for responsible and safe deployment of highly capable AI systems.

연구 동기 및 목표

• 능력, 일반성, 및 성능에 초점을 맞춘 명확하고 작동 가능한 AGI의 정의를 명확히 한다.
• AGI 경로를 따라 진행 상황을 추적하기 위한 leveled taxonomy(Levels of AGI)를 제공한다.
• 벤치마크와 생태학적으로 타당한 과제를 통해 AGI를 측정하기 위한 원칙들을 개요화한다.
• 다른 수준에서의 위험, 자율성, 및 인간-AI 상호작용(Human-AI Interaction) 고려사항에 대해 논의한다.
• 배포 및 상호작용 패러다임이 강력한 AI 시스템의 안전한 사용에 어떤 영향을 미치는지 제안한다.

제안 방법

• AGI를 위한 이중 차원 수준화 프레임워크(성능의 깊이 x 일반성의 폭)를 개발한다.
• 유용한 AGI 온톨로지를 위한 여섯 가지 지침 원칙을 도출한다(능력, 일반성, 인지/메타인지 과제, 잠재력 대 배포, 생태학적 타당성, 경로 대 종점).
• 다양한 작업 및 시스템에 대한 수준 매핑 매트릭스 표를 제안한다(예: Emerging, Competent, Expert, Virtuoso, ASI).
• 벤치마크 설계 고려사항 및 작업 생성 능력을 갖춘 살아 있는 벤치마크의 개념을 논의한다.
• 자율성, 인터페이스, 거버넌스 등의 위험 맥락을 분석하고 수준을 잠재적 위험과 연관시킨다.
• 인간-AI 상호작용의 자율성 수준과 관련된 배포 고려사항을 설명한다.

실험 결과

연구 질문

• RQ1 기능, 일반성, 자율성을 강조하는 방식으로 AGI를 어떻게 정의해야 하는가?
• RQ2 AGI 진전에 가장 잘 부합하는 성능 및 일반성의 수준은 무엇이며, 이를 어떻게 측정할 수 있는가?
• RQ3 AGI 경로를 따라 진행 상황을 의미 있게 평가할 벤치마크와 과제 세트는 무엇인가?
• RQ4 AGI의 수준이 배포 고려사항 및 위험(자율성 및 인간-AI 상호작용 패러다임 포함)과 어떻게 상호작용하는가?

주요 결과

• AGI 경로를 따라 시스템을 분류하기 위해 두 차원의 Levels of AGI 프레임워크(성능의 깊이 x 일반성의 폭)가 제안된다.
• 유용한 AGI 온톨로지를 안내하는 여섯 가지 원칙이 제시되며, 능력, 일반성, 인지/메타인지 과제, 배포보다 잠재력, 생태학적 타당성, AGI 경로를 따라 진행에 초점을 둔다.
• 현 경계 모델은 여러 수준에 걸칠 수 있으며(일부 작업에서 Emerging AGI, 다른 작업에서 Competent 이상 등), 생태학적으로 타당한 벤치마크 및 모델 문서화의 필요성을 강조한다.
• AGI를 향한 벤치마킹은 진화하는 능력에 따라 새로운 과제를 추가할 수 있는 개방형 과제와 프레임워크를 가진 살아 있는 프로세스여야 한다.
• 프레임워크는 서로 다른 수준이 배포 고려사항, 자율성, 위험과 어떻게 관계하는지 논의하며, AGI 진행을 엔드포인트 중심이 아닌 미묘하고 세심한 시각으로 제시한다.
• 수준을 기존 정의(예: OpenAI의 노동 대체 임계치)와 연결하고 상위 수준에서의 위험(정합성 이탈, 자율성 위험)을 강조한다.