[논문 리뷰] Why and How Governments Should Monitor AI Development

Jess Whittlestone, Jack Clark|arXiv (Cornell University)|2021. 08. 28.

Ethics and Social Impacts of AI참고 문헌 15인용 수 15

한 줄 요약

이 논문은 정부가 정부 주도의 조율과 제3자 연구의 하이브리드 모델을 활용하여 인공지능 능력, 도입 사례 및 영향을 실시간으로 체계적으로 측정하고 모니터링할 수 있는 인프라를 구축할 것을 제안한다. 이를 통해 정부는 규제 감시를 강화하고 위험을 조기에 예측하며 인공지능 개발을 사회적 복지로 이끌 수 있다.

ABSTRACT

In this paper we outline a proposal for improving the governance of artificial intelligence (AI) by investing in government capacity to systematically measure and monitor the capabilities and impacts of AI systems. If adopted, this would give governments greater information about the AI ecosystem, equipping them to more effectively direct AI development and deployment in the most societally and economically beneficial directions. It would also create infrastructure that could rapidly identify potential threats or harms that could occur as a consequence of changes in the AI ecosystem, such as the emergence of strategically transformative capabilities, or the deployment of harmful systems. We begin by outlining the problem which motivates this proposal: in brief, traditional governance approaches struggle to keep pace with the speed of progress in AI. We then present our proposal for addressing this problem: governments must invest in measurement and monitoring infrastructure. We discuss this proposal in detail, outlining what specific things governments could focus on measuring and monitoring, and the kinds of benefits this would generate for policymaking. Finally, we outline some potential pilot projects and some considerations for implementing this in practice.

연구 동기 및 목표

• 빠른 발전을 보이는 인공지능이 기존 거버넌스 메커니즘을 뛰어넘는다는 점에서 증가하는 정책 과제를 해결하기 위해.
• 정부와 민간 인공지능 개발자 간의 정보 비대칭을 줄이기 위해 인공지능 시스템에 관한 시의적절하고 고질적인 데이터를 제공하기 위해.
• 인공지능 기술의 조기 경고 시스템과 통합된 영향 평가를 통해 사전적 거버넌스를 가능하게 하기 위해.
• 더 나은 자금 지원, 규제 및 전략적 계획 수립을 위해 국가 차원에서 인공지능 진전, 도입 및 사회적 영향을 평가할 수 있는 능력을 강화하기 위해.
• 민간 부문이 인공지능 모니터링을 지배하는 것을 방지하기 위해 시민과 공익 기반의 측정 인프라를 확보하기 위해.

제안 방법

• 인공지능 연구 및 개발의 진전을 추적하기 위해 문헌정보학적 분석, 오픈소스 데이터 및 벤치마킹을 활용한다.
• 잠재적 피해를 탐지하고 실제 영향을 평가하기 위해 배포된 인공지능 시스템을 지속적으로 모니터링한다.
• 구체적인 인공지능 피해 사례를 기록하고 분석하기 위해 국가 차원의 인공지능 사고 데이터베이스를 구축한다.
• 산업 분야별 인공지능 도입 및 배포를 추적하여 사회적 및 경제적 영향을 예측한다.
• 다양한 주체들 사이에서 핵심 인공지능 입력 요소(예: 인재, 계산 자원, 데이터)의 통제를 모니터링한다.
• 하이브리드 거버넌스 모델을 도입한다: 정부 주도의 조율에 학계 및 산업계의 제3자 기여를 결합한다.

실험 결과

연구 질문

• RQ1 정부는 빠른 발전에 발맞추어 실시간으로 인공지능 능력과 영향을 체계적으로 측정하고 모니터링할 수 있는 방법은 무엇인가?
• RQ2 정부가 인공지능 도입 및 위험에 대한 이해를 높이기 위해 어떤 특정 데이터 스트림과 방법론이 유용한가?
• RQ3 측정 인프라는 어떻게 고위험 인공지능 개발이나 체계적 피해를 조기에 탐지하는 데 기여할 수 있는가?
• RQ4 정부가 효과적이고 확장 가능하며 상업적 편향이 없는 방식으로 인공지능 모니터링을 수행할 수 있는 기관 모델은 무엇인가?
• RQ5 인공지능 모니터링은 규제 준수 향상, 자금 지원 우선순위 설정 및 정책 조율 개선에 어떻게 기여할 수 있는가?

주요 결과

• 정부 주도의 측정 인프라가 없을 경우 민간 주체들이 인공지능 모니터링을 지배하게 되어 공익을 위한 것이 아니라 좁은 상업적 이해에 맞춰질 것이다.
• 정부와 민간 인공지능 개발자 간의 정보 비대칭이 심화되어 반응적인, 잘 정보가 제공되지 않은 정책 수립이 발생할 것이다.
• AI 사고 데이터베이스 및 지리적 문헌정보학적 분석과 같은 시범 프로젝트는 국가 수준의 인공지능 경쟁력과 위험에 대한 조기 통찰을 제공할 수 있다.
• 산업 분야별 인공지능 도입을 모니터링하면 자동화가 노동시장과 경제에 끼칠 영향을 더 잘 예측할 수 있다.
• 핵심 입력 요소(예: 계산 자원, 데이터, 인재)의 통제를 추적하는 것은 규제 개입 지점과 인공지능 생태계 내 권력 불균형을 파악하는 데 도움이 된다.
• 정부 주도에 제3자 기여를 결합한 하이브리드 모델은 공공 책임성을 유지하면서도 모니터링 능력을 효과적으로 확장할 수 있다.