[논문 리뷰] AI Model Registries: A Foundational Tool for AI Governance

Elliot McKernon, Gwyn Glasser외 2명|arXiv (Cornell University)|2024. 10. 12.

Scientific Computing and Data ManagementDecision Sciences인용 수 3

한 줄 요약

이 논문은 국가 차원의 프롤티어 AI 모델 레지스트리 도입을 제안하여 AI 거버넌스의 기초 도구로 삼으며, 모델 아키텍처, 크기, 컴퓨팅 자원, 훈련 데이터 등의 표준화된 데이터 수집을 통해 정부의 감시를 가능하게 하고, 금지 명령 및 재정적 제재를 통해 규제 부담을 최소화한다. 이 프레임워크는 지적 재산권을 훼손하지 않으면서도 AI 안전성과 혁신의 균형을 높인다.

ABSTRACT

In this report, we propose the implementation of national registries for frontier AI models as a foundational tool for AI governance. We explore the rationale, design, and implementation of such registries, drawing on comparisons with registries in analogous industries to make recommendations for a registry that is efficient, unintrusive, and which will bring AI governance closer to parity with the governmental insight into other high-impact industries. We explore key information that should be collected, including model architecture, model size, compute and data used during training, and we survey the viability and utility of evaluations developed specifically for AI. Our proposal is designed to provide governmental insight and enhance AI safety while fostering innovation and minimizing the regulatory burden on developers. By providing a framework that respects intellectual property concerns and safeguards sensitive information, this registry approach supports responsible AI development without impeding progress. We propose that timely and accurate registration should be encouraged primarily through injunctive action, by requiring third parties to use only registered models, and secondarily through direct financial penalties for non-compliance. By providing a comprehensive framework for AI model registries, we aim to support policymakers in developing foundational governance structures to monitor and mitigate risks associated with advanced AI systems.

연구 동기 및 목표

• 고성능 AI 시스템에 대한 정부의 통찰력 부족 문제를 해결하여, 민간 항공 및 의약품 산업 등 규제 산업과 유사한 감시 체계를 구축한다.
• 프롤티어 AI와 관련된 위험을 줄이기 위해 모델 개발을 중심으로 통합적이고 투명하며 효율적인 감시 메커니즘을 마련한다.
• 규제 부담을 최소화하면서도 책임성을 확보함으로써, 책임감 있는 AI 혁신을 지원한다.
• 모델 등록 과정에서 지적 재산권과 민감한 정보 보호를 고려한 투명성과 균형을 확보한다.
• 고도의 AI 시스템에 대한 시기적절하고 정확하며 이행 가능한 감시를 가능하게 하는 거버넌스 프레임워크를 수립한다.

제안 방법

• 민간 항공 및 의약품 산업 등 고위험 산업의 기존 레지스트리 모델을 참조하여 프롤티어 AI 모델을 위한 국가 레지스트리 시스템을 설계한다.
• 수집할 핵심 데이터 요소 정의: 모델 아키텍처, 모델 크기, 컴퓨팅 자원, 훈련 데이터, 평가 결과.
• 단계적 강제 이행 메커니즘 도입: 제3자에게 등록된 모델만 사용하도록 요구하는 주된 금지 명령 조치와, 위반 시 부과되는 보조 재정적 제재.
• 레드랙션, 액세스 제어, 민감한 정보의 제한적 공개 등을 통해 데이터 기밀성과 지적 재산권 보호를 확보한다.
• 안전성, 내구성, 일치성 등을 평가하기 위한 AI 시스템에 특화된 평가 프레임워크 제안으로 레지스트리 데이터의 유용성을 높인다.
• 정책 개발, 위험 모니터링, 사고 대응 지원을 위해 레지스트리를 광범위한 AI 거버넌스 생태계에 통합한다.

실험 결과

연구 질문

• RQ1 혁신을 저해하지 않으면서도 정부가 프롤티어 AI 모델에 효과적으로 감시를 수행할 수 있는 방법은 무엇인가?
• RQ2 의미 있는 위험 평가 및 규제 통찰을 가능하게 하기 위해 모델 레지스트리에서 수집해야 할 核심 정보는 무엇인가?
• RQ3 공개 또는 반공개 레지스트리 내에서 지적 재산권과 민감한 기술 정보를 어떻게 보호할 수 있는가?
• RQ4 모델 등록 요건 이행을 확보하기 위해 가장 효과적인 강제 이행 메커니즘은 무엇인가?
• RQ5 기타 고위험 산업에서의 기존 규제 모델은 AI 모델 거버넌스에 얼마나 적합하게 적용될 수 있는가?

주요 결과

• 국가 차원의 AI 모델 레지스트리는 민간 항공 및 의약품 산업과 유사한 수준의 정부 통찰력을 프롤티어 AI 시스템에 제공할 수 있다.
• 모델 크기, 컴퓨팅 자원, 훈련 데이터와 같은 표준화된 데이터 수집은 위험 모니터링을 가능하게 하고, 근거 기반 정책 수립을 지원한다.
• 제3자에게 등록된 모델만 사용하도록 요구하는 금지 명령 이행 방식은 재정적 제재만으로 이행하는 것보다 더 효과적인 준수 메커니즘이다.
• 통제된 액세스와 데이터 최소화를 통해 레지스트리 프레임워크는 지적 재산권과 민감한 정보 보호를 효과적으로 보장할 수 있다.
• AI에 특화된 평가 도구는 레지스트리 데이터의 유용성과 신뢰성을 크게 향상시켜 거버넌스 목적에 기여한다.
• 적절히 설계된 레지스트리는 불확실성을 줄이고 사전적 위험 완화를 가능하게 하여 안전성과 혁신을 동시에 지원한다.