[논문 리뷰] Computing Power and the Governance of Artificial Intelligence

Girish Sastry, Lennart Heim외 17명|arXiv (Cornell University)|2024. 02. 13.

Ethics and Social Impacts of AI인용 수 20

한 줄 요약

논문은 지배 AI 컴퓨트의 거버넌스가 규제 가시성 향상, 안전한 용도에 자원 배분, 남용에 대한 집행을 통해 의미 있게 AI 거버넌스를 강화할 수 있다고 주장하며, 가드레일과 위험을 개요로 제시한다.

ABSTRACT

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.

연구 동기 및 목표

• 컴퓨트를 AI 거버넌스의 활용 수단으로 연구를 자극하고, 컴퓨트가 특히 효과적인 개입인 이유를 설명한다.
• AI 삼원(데이터, 알고리즘, 컴퓨트)을 정의하고 프런티어 모델과 배치에서 컴퓨트의 역할을 설명한다.
• 컴퓨트 거버넌스가 가시성, 배분, 집행의 세 가지 거버넌스 역량을 어떻게 강화할 수 있는지 요약한다.
• 컴퓨트 거버넌스의 잠재적 위험과 가드레일을 식별하고 현재와 미래의 정책 옵션을 논의한다.

제안 방법

• 탐지가능성, 배제가능성, 정량가능성, 공급망 집중도를 기반으로 컴퓨트를 거버넌스 수단으로 삼는 개념적 프레임워크를 개발한다.
• AI 생애주기(설계, 훈련, 향상, 배치)를 특성화하고 각 단계에 대한 컴퓨트 발자국을 매핑한다.
• 가용한 컴퓨트 거버넌스 노력(국내 컴퓨트 용량, 수출통제, 보고 임계치) 및 국내/국제 정책 도구를 검토한다.
• 가시성, 배분, 집행 범주에 걸친 예시적 거버넌스 메커니즘을 설계 고려사항과 함께 제안한다.
• 컴퓨트 거버넌스의 위험(개인정보, 중앙집중화, 실행 가능성)을 논의하고 이를 완화하기 위한 가드레일을 제안한다.

Figure 1 : Summary of the core concepts in the report. Compute is attractive for policymaking because of four properties. These properties can be leveraged to design and implement policies that enable three critical capacities for the governance of AI.

실험 결과

연구 질문

• RQ1 컴퓨트 거버넌스를 어떻게 활용하여 AI 능력과 사용에 대한 규제 가시성을 높일 수 있는가?
• RQ2 안전하고 유익한 AI 개발을 촉진하기 위해 어떤 정책 수단이 컴퓨트를 재할당하거나 관리할 수 있는가?
• RQ3 AI 개발 및 배치에 대한 규범과 규제를 강화하기 위해 컴퓨트를 어떻게 활용할 수 있는가?
• RQ4 컴퓨트 거버넌스에서 프라이버시 및 중앙집중화 위험을 최소화하기 위해 어떤 가드레일이 필요한가?
• RQ5 컴퓨트 기반 거버넌스 접근법의 실질적 도전과 준비 수준은 어떤가?

주요 결과

• 컴퓨트는 중앙집중적이고 물리적이며 측정 가능한 발자국을 가진 덕분에 프런티어 AI 모델에 큰 영향을 미친다.
• 컴퓨트 거버넌스는 AI 거버넌스의 가시성, 배분, 집행의 세 가지 역량을 강화할 수 있다.
• 가시성(보고 요건, AI 칩 등록부 등), 배분(유익한 AI에 대한 표적 지원, 속도 조정), 집행(하드웨어 기반 통제, 규범 집행)을 위한 다양한 예시 메커니즘이 존재한다.
• 개인정보, 데이터 유출, 권한의 중앙집중화 위험 등 상당한 위험과 실행 가능성 우려가 있으며, 작은 규모의 컴퓨트를 제외하고 개인정보 보호 관행을 강조하는 가드레일이 필요하다.
• 현재의 거버넌스 노력(국내 용량, 수출 통제, 보고 임계치)은 모멘텀과 긴장을 모두 보여주며, 컴퓨트 기반 정책의 전체론적 이론과 신중한 설계 필요성을 강조한다.

Figure 2 : The AI Triad. The three key technical inputs to AI are data, algorithms, and compute. Human capital is required for all inputs.