[논문 리뷰] Governing Through the Cloud: The Intermediary Role of Compute Providers in AI Regulation

Lennart Heim, Tim Fist외 6명|arXiv (Cornell University)|2024. 03. 13.

Blockchain Technology Applications and Security인용 수 4

한 줄 요약

이 논문은 AWS, Google Cloud, Microsoft Azure와 같은 클라우드 컴퓨팅 제공업체가 기반 인프라 데이터에 대한 기술적 접근성을 활용해 준수 여부를 확보함으로써 AI 규제의 중개자 역할을 해야 한다고 제안한다. 비밀번호가 아닌 텔레메트리 데이터(예: 컴퓨팅 시간, 전력 소비, 대역폭)를 사용해 작업 부하를 분류하고 고위험 AI 개발을 감시하면서도 개인정보를 보호하는 방식으로, 네 가지 거버넌스 역할(보안자, 기록자, 검증자, 집행자)을 제시한다.

ABSTRACT

As jurisdictions around the world take their first steps toward regulating the most powerful AI systems, such as the EU AI Act and the US Executive Order 14110, there is a growing need for effective enforcement mechanisms that can verify compliance and respond to violations. We argue that compute providers should have legal obligations and ethical responsibilities associated with AI development and deployment, both to provide secure infrastructure and to serve as intermediaries for AI regulation. Compute providers can play an essential role in a regulatory ecosystem via four key capacities: as securers, safeguarding AI systems and critical infrastructure; as record keepers, enhancing visibility for policymakers; as verifiers of customer activities, ensuring oversight; and as enforcers, taking actions against rule violations. We analyze the technical feasibility of performing these functions in a targeted and privacy-conscious manner and present a range of technical instruments. In particular, we describe how non-confidential information, to which compute providers largely already have access, can provide two key governance-relevant properties of a computational workload: its type-e.g., large-scale training or inference-and the amount of compute it has consumed. Using AI Executive Order 14110 as a case study, we outline how the US is beginning to implement record keeping requirements for compute providers. We also explore how verification and enforcement roles could be added to establish a comprehensive AI compute oversight scheme. We argue that internationalization will be key to effective implementation, and highlight the critical challenge of balancing confidentiality and privacy with risk mitigation as the role of compute providers in AI regulation expands.

연구 동기 및 목표

• EU AI 법과 미국 행정명령 14110과 같은 신규 AI 규제에서 효과적인 집행 메커니즘이 부족한 문제를 해결하기 위해.
• 클라우드 제공업체가 인프라 수준의 데이터에 유일하게 접근할 수 있는 특수한 위치를 고려해 AI 거버넌스의 핵심 중개자로 제안하기 위해.
• 클라우드 제공업체가 수행할 수 있는 네 가지 거버넌스 역량(보안자, 기록자, 검증자, 집행자)을 식별하고 분석하기 위해.
• 기밀성이 없는, 이미 수집된 텔레메트리 데이터를 활용해 규제 감시를 수행할 수 있는 기술적 타당성을 평가하기 위해.
• 국제적 협력과 개인정보 보호 기법을 통해 위험 완화와 데이터 보호 사이의 균형을 이루는 방법을 탐색하기 위해.

제안 방법

• 미국 행정명령 14110 등 기존 규제 프레임워크를 분석해 클라우드 제공업체에 대한 기록 보관 의무를 파악하기 위해.
• 요청된 하드웨어 구성, 컴퓨팅 시간, 전력 소비, 네트워크 대역폭 등의 관측 가능한 인프라 속성과 작업 부하 분류 및 자원 소비를 연결하기 위해.
• 성능 카운터, 메모리 접근 패턴, 가중치 갱신 빈도를 활용해 모델 학습과 추론 작업 부하를 식별할 수 있는지 평가하기 위해.
• 고객의 동의를 얻어 기밀 데이터(예: 학습 데이터셋, 하이퍼파라미터)를 수집하기 위해 기밀 컴퓨팅 같은 개인정보 보호 기법을 평가하기 위해.
• 클라우드 제공업체가 규제 기관에 고수준 텔레메트리 데이터를 보고하면서도 데이터暴露를 최소화하는 계층적 감시 모델을 제안하기 위해.
• 규제 기관과 AI 개발자 사이에서 클라우드 제공업체가 중개자 역할을 하여 준수 부담을 줄이고 집행 능력을 높이는 규제 생태계를 설계하기 위해.

실험 결과

연구 질문

• RQ1 클라우드 제공업체를 법적·윤리적으로 AI 규제 프레임워크의 중개자로 통합하는 방법은 무엇인가?
• RQ2 기반 인프라 텔레메트리에서 유추할 수 있는 기술적 신호 중에서 개인정보를 보호하면서도 작업 부하 유형(예: 학습 대비 추론)과 규모를 신뢰성 있게 나타낼 수 있는 것은 무엇인가?
• RQ3 기존의 텔레메트리 데이터(예: 컴퓨팅 시간, 전력 소비, 대역폭)를 규제 감시 목적으로 재사용할 수 있는 정도는 어느 정도인가?
• RQ4 검증 및 집행 역할을 확대함에 있어 클라우드 제공업체의 역할 확장이 개인정보 및 보안에 미치는 상충 관계는 무엇인가?
• RQ5 국제적 협력과 표준화된 기술 도구는 어떻게 확장 가능하고 개인정보 보호를 고려한 AI 거버넌스를 가능하게 하는가?

주요 결과

• 클라우드 제공업체는 이미 컴퓨팅 시간, 하드웨어 구성, 전력 소비와 같은 비기밀 텔레메트리 데이터를 수집하고 있으며, 이를 통해 작업 부하 유형을 분류하고 자원 소비를 추정하는 데 사용할 수 있다.
• AI 가속기 간 및 내부의 네트워크 대역폭 활용도는 작업 부하 특성과 강하게 상관되며, 학습과 추론 작업 부하를 구분하는 데 유용하다.
• 메모리 대역폭과 코어 활용도 패턴은 학습(높고 일정함)과 추론(변동성 있음) 작업 부하를 구분할 수 있어, 작업 부하 분류의 기술적 근거를 제공한다.
• 수치 정밀도에 따른 성능 카운터는 AI 작업 부하와 과학 계산 또는 게임 작업 부하를 구분할 수 있으며, 계산 강도의 직접적 대체 지표가 된다.
• 메모리 내 모델 가중치의 수정은 학습 활동의 강력한 지표이며, 빈도와 크기와 컴퓨팅 소비와 상관관계가 있다.
• 일부 신호(예: 학습 데이터셋 또는 하이퍼파라미터 접근)는 새로운 데이터 수집이 필요하지만, 고객의 동의를 얻어 기밀 컴퓨팅을 활용해 개인정보 보호를 유지할 수 있다.