[논문 리뷰] International Institutions for Advanced AI

L. Lawrence Ho, Joslyn Barnhart외 9명|arXiv (Cornell University)|2023. 07. 10.

Ethics and Social Impacts of AI인용 수 20

한 줄 요약

본 논문은 네 가지 국제 거버넌스 모델—Commission on Frontier AI, Advanced AI Governance Organization, Frontier AI Collaborative, AI Safety Project—를 제안하고 이들의 잠재적 역할, 시너지, 고급 AI의 위험 관리 및 혜택 분배에 대한 타당성을 분석한다.

ABSTRACT

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.

연구 동기 및 목표

• AI의 이익을 활용하고 글로벌 위험을 완화하기 위한 국제 거버넌스를 주장한다.
• 거버넌스 기능을 국제 기구에 매핑하고 구현될 수 있는 위치를 식별한다.
• 네 가지 제도적 모델을 제안하고 그 강점, 시너지, 한계를 분석한다.
• 전선 AI의 향후 거버넌스를 위한 미해결 질문과 실용적 고려사항을 강조한다.

제안 방법

• 거버넌스 기능을 과학/기술 개발과 규칙 제정/집행으로 분류하는 분류학적 프레이밍.
• 각 기능을 네 가지 이상화된 제도 모델에 대해 개념적 매핑.
• 각 모델의 이점, 도전과제 및 타당성에 대한 비교 분석.
• 제안을 확고히 하기 위한 기존 국제적 노력(OECD, GPAI, ITU, ISO/IEC)에 대한 참조.

실험 결과

연구 질문

• RQ1 고급 AI의 기회와 위험을 다루기 위해 필요한 국제 거버넌스 기능은 무엇인가?
• RQ2 전 세계적 접근과 안전을 촉진하면서 이러한 기능을 효과적으로 수행할 수 있는 제도 구성은 무엇인가?
• RQ3 제안된 각 모델의 주요 도전과제와 타당성 우려는 무엇인가(합의, 표준, 접근, 안전 연구)?
• RQ4 기존 기구(OECD, GPAI, ITU, ISO/IEC)가 새로운 국제 구조를 어떻게 알리거나 보완할 수 있는가?
• RQ5 참여 인센티브, 모니터링 및 급속한 AI 발전에 대한 적응성에 대해 남아 있는 미해결 질문은 무엇인가?

주요 결과

• 네 가지 제도 모델은 최전선 AI를 위한 서로 다르고 시너지 효과를 내는 거버넌스 역할을 수행할 수 있다.
• A Commission on Frontier AI는 전문가 합의를 구축하고 정책에 정보를 제공하는 데 도움이 될 수 있다.
• Advanced AI Governance Organization은 표준을 설정하고 구현을 지원하며 컴플라이언스 모니터링을 수행할 수 있다.
• Frontier AI Collaborative은 국제적 접근을 촉진하고 혜택을 소외된 지역에 분배할 수 있다.
• AI Safety Project는 선도 연구자들 간의 안전 연구 및 자원 공유를 조정할 수 있다.