[논문 리뷰] International Governance of Civilian AI: A Jurisdictional Certification Approach

Robert Trager, Ben Harack외 10명|arXiv (Cornell University)|2023. 08. 29.

International Law and Aviation인용 수 4

한 줄 요약

이 논문은 국제적 AI 감독 기준을 이행하는 데 있어 국가 주권을 인증하기 위해 국제 AI 기구(IAIO)를 제안한다. 이는 비인증 지역에서 온 AI에 대한 무역 제재를 가능하게 하며, 기존의 국제 기구인 ICAO와 FATF와 같은 모델을 활용해 글로벌 AI 거버넌스를 조율하고, 이국적 위험을 완화하며 다자간 인증과 무역 통제를 통해 공공안전을 확보하고자 한다.

ABSTRACT

This report describes trade-offs in the design of international governance arrangements for civilian artificial intelligence (AI) and presents one approach in detail. This approach represents the extension of a standards, licensing, and liability regime to the global level. We propose that states establish an International AI Organization (IAIO) to certify state jurisdictions (not firms or AI projects) for compliance with international oversight standards. States can give force to these international standards by adopting regulations prohibiting the import of goods whose supply chains embody AI from non-IAIO-certified jurisdictions. This borrows attributes from models of existing international organizations, such as the International Civilian Aviation Organization (ICAO), the International Maritime Organization (IMO), and the Financial Action Task Force (FATF). States can also adopt multilateral controls on the export of AI product inputs, such as specialized hardware, to non-certified jurisdictions. Indeed, both the import and export standards could be required for certification. As international actors reach consensus on risks of and minimum standards for advanced AI, a jurisdictional certification regime could mitigate a broad range of potential harms, including threats to public safety.

연구 동기 및 목표

• 민간 프론티어 AI의 국제 거버넌스가 필요한 급박한 필요성에 대응하기 위해 국경을 초월하는 위험과 분산된 국내 규제의 문제를 해결한다.
• 글로벌로 연결된 AI 산업 환경에서 단일국가 또는 지역적 AI 규제의 한계를 극복한다.
• 기존의 국제 기구와 무역법에 부합하는 실현 가능하고 다자간 거버넌스 모델을 개발한다.
• AI 안전 기준을 다양한 수준의 AI 개발 능력을 지닌 국가들 간에 공정하고 일관되게 적용한다.
• 향후 AI 능력의 발전과 새로운 위험에 대응해 진화할 수 있는 확장 가능한 프레임워크를 구축한다.

제안 방법

• 국제 AI 기구(IAIO)를 설립하여 글로벌 AI 감독 및 위험 완화 기준을 설정하고 이행한다.
• 개별 기업이나 AI 시스템이 아닌 전체 국가 주권을 기준으로 IAIO 기준 준수 여부에 따라 인증한다.
• 비-IAIO 인증 지역의 공급망에 AI가 포함된 제품에 대해 국가가 수입 금지를 시행할 수 있도록 한다.
• 특수 AI 칩과 같은 핵심 AI 입력 요소에 대해 비인증 지역으로의 수출 통제를 도입한다.
• ICAO, IMO, FATF와 같은 기존 국제 기구를 모델로 삼아, 합의 기반의 기준과 이행 메커니즘을 사용한다.
• 제안된 무역 조치를 WTO 법과 일치시키며, 특히 기술적 무역 장벽(TBT) 협정과 무역 제재의 필요성 테스트를 고려한다.

실험 결과

연구 질문

• RQ1 국경을 초월하는 위험을 다루면서도 국가 주권을 존중하는 방식으로 민간 AI의 국제 거버넌스를 어떻게 설계할 수 있는가?
• RQ2 글로벌 AI 안전 기준 준수를 위한 지방 정부의 인증을 효과적으로 수행할 수 있는 제도적 모델은 무엇인가?
• RQ3 무역 기반 메커니즘(수입/수출 통제)이 국제 무역법 하에서 어느 정도 법적으로 정당화될 수 있는가?
• RQ4 기술 역량이 상이한 다양한 국가들 간에 AI 위험과 기준에 대한 다자간 합의를 어떻게 달성할 수 있는가?
• RQ5 민간 AI 거버넌스는 향후 군사용 AI 무기 억제 조약에 어떤 역할을 할 수 있는가?

주요 결과

• IAIO 모델은 개별 AI 시스템이나 기업이 아닌 전체 국가 주권을 인증함으로써 실현 가능하고 제도적으로 기반을 다진 글로벌 AI 거버넌스 접근법을 제공한다.
• 비인증 지역에서 온 AI에 대한 무역 제재는 WTO의 기술적 무역 장벽(TBT) 협정 하에서 법적으로 정당화될 수 있으며, 국제 기준과 일치할 경우 더욱 그렇다.
• WTO 법상의 필요성 테스트는 인명과 안전에 대한 치명적인 AI 위험을 방지하는 높은 공공의 이익을 고려할 때 대부분 충족될 것으로 예상된다.
• 이 프레임워크는 ICAO, IMO, FATF와 같은 검증된 모델을 기반으로 하여 정당성과 수용 가능성 모두를 높인다.
• 지역 기반 인증은 규제 회피 위험을 줄이고, 모든 기술적 세부 사항에 대한 전 세계적 합의가 필요하지 않더라도 AI 안전 기준의 글로벌 조율을 촉진한다.
• 이 모델은 민간 및 군사 AI 거버넌스 간의 상호보완성을 지원하며, 향후 무기 억제 메커니즘의 시험대가 될 수 있다.