[논문 리뷰] A Practical Multilevel Governance Framework for Autonomous and Intelligent Systems

Lukas Pöhler, Klaus Diepold외 1명|arXiv (Cornell University)|2024. 04. 21.

Collaboration in agile enterprisesBusiness, Management and Accounting인용 수 3

한 줄 요약

이 논문은 자율적이고 지능적인 시스템(AIS)을 위한 실용적인 다수준 거버넌스 프레임워크를 제안하며, 국제, 국가, 조직 및 기타 수준의 의사결정을 포함하는 여섯 단계의 의사결정 수준에서 이해관계자를 맵핑하여 변화하는 도구와 공식적 메커니즘을 통해 유연하고 적응 가능한 거버넌스를 가능하게 한다. 이 프레임워크는 규제 샌드박스, 정기적 검토 및 双방향 정보 흐름을 통한 민첩하고 반복적인 감시를 지원하여 다양한 분야에서 책임감 있는 AIS 개발 및 구현을 향상시킨다.

ABSTRACT

Autonomous and intelligent systems (AIS) facilitate a wide range of beneficial applications across a variety of different domains. However, technical characteristics such as unpredictability and lack of transparency, as well as potential unintended consequences, pose considerable challenges to the current governance infrastructure. Furthermore, the speed of development and deployment of applications outpaces the ability of existing governance institutions to put in place effective ethical-legal oversight. New approaches for agile, distributed and multilevel governance are needed. This work presents a practical framework for multilevel governance of AIS. The framework enables mapping actors onto six levels of decision-making including the international, national and organizational levels. Furthermore, it offers the ability to identify and evolve existing tools or create new tools for guiding the behavior of actors within the levels. Governance mechanisms enable actors to shape and enforce regulations and other tools, which when complemented with good practices contribute to effective and comprehensive governance.

연구 동기 및 목표

• 빠른 기술적 배포가 느린 규제 기관의 속도를 뛰어넘는 AIS 거버넌스의 '패싱 문제'(pacing problem)를 해결하기 위해.
• 중앙집중식, 상향식 거버넌스의 한계를 극복하기 위해 다수의 의사결정 수준에서 분산된 다자간 참여를 가능하게 하기 위해.
• 관련 이해관계자를 식별하고 거버넌스 도구를 개발하며 AIS 라이프사이클 전반에 걸쳐 책임성을 확보하기 위해 체계적이면서도 유연한 프레임워크를 제공하기 위해.
• 규제 샌드박스와 반복적 정책 수립과 같은 민첩한 거버넌스 관행을 AIS를 위한 확장 가능한 거버넌스 아키텍처에 통합하기 위해.
• 공식화된 거버넌스 메커니즘을 통해 하향식 조율과 상향식 기여를 촉진하여 수준 간 연결을 지원하고 감시를 가능하게 하기 위해

제안 방법

• 국제, 국가, 조직, 부문, 지역사회, 개인의 여섯 단계의 계층적 수준에서 거버넌스 이해관계자를 맵핑하기.
• 수준 간 공식적 연결을 가능하게 하는 거버넌스 메커니즘 개발 — 상향식 시행 및 하향식 제안 제출을 포함.
• 기술적 변화와 사회적 변화에 대응하기 위해 거버넌스 도구를 유연하게 조정하기 위해 반복적 정책 수립 및 정기적 검토 도입.
• 대규모 배포 이전에 통제된 환경에서 거버넌스 도구를 테스트하기 위해 규제 샌드박스 통합.
• 투명성, 이해관계자 참여 및 윤리 기준과 같은 양질의 관행을 활용하여 거버넌스 메커니즘 강화.
• 기존의 국제 기구(예: ITU, UNODA)와 포럼(예: AI for Good 글로벌 서밋)을 활용하여 글로벌 기여를 조율하고 분열을 방지하기.

실험 결과

연구 질문

• RQ1 AIS의 급속한 발전에 대응하기 위해 다수준에서 효과적으로 분산되고 조율된 거버넌스를 어떻게 구현할 수 있는가?
• RQ2 다수준 AIS 거버넌스 시스템에서 상향식 감시와 하향식 기여를 가능하게 하는 메커니즘은 무엇인가?
• RQ3 규제 샌드박스와 반복적 검토와 같은 민첩한 거버넌스 관행을 다수준 프레임워크에 어떻게 통합할 수 있는가?
• RQ4 기존의 국제 기구와 포럼은 AIS를 위한 통합된 글로벌 거버넌스 생태계를 뒷받침하는 데 어떤 역할을 하는가?
• RQ5 기술적 변화와 사회적 변화 속에서 효과성을 유지하기 위해 거버넌스 도구는 어떻게 지속적으로 진화시켜야 하는가?

주요 결과

• 제안된 다수준 거버넌스 프레임워크는 여섯 단계의 의사결정 수준에서 다양한 이해관계자 간의 체계적인 협력을 가능하게 하여 적응성과 포용성을 향상시킨다.
• 거버넌스 메커니즘은 이중 방향 정보 흐름을 지원하며, 하위 수준의 이해관계자가 상위 수준에 제안을 제출할 수 있고, 상위 수준이 하위 수준의 행동을 시행하거나 지시할 수 있도록 한다.
• 규제 샌드박스와 정기적 검토와 같은 민첩한 거버넌스 관행의 통합은 거버넌스 도구의 반응성과 진화를 강화한다.
• ITU와 UNODA와 같은 기존의 국제 기구는 글로벌 AIS 거버넌스를 조율하는 효과적인 플랫폼으로 기능할 수 있으며, 분열을 줄일 수 있다.
• 포괄적이고 다자간 포럼을 통해 상호운용 가능한 표준, 선언문, 자율 규제 약속의 제작을 지원한다.
• 국제 AI 거버넌스 회의와 같은 거버넌스 조율위원회는 다양한 이해관계자 간의 중재자 역할을 하며 공감대 형성을 촉진할 수 있다.