[논문 리뷰] Open Problems in Technical AI Governance

Anka Reuel, Ben Bucknall외 31명|arXiv (Cornell University)|2024. 07. 20.

Big Data and Business Intelligence인용 수 5

한 줄 요약

이 논문은 기술 AI 거버넌스(TAIG)를 정의하고, 역량과 목표의 2차원 분류법을 제시하며, 연구자와 자금 조달자를 안내하기 위해 개방형 기술 문제를 수록합니다.

ABSTRACT

AI progress is creating a growing range of risks and opportunities, but it is often unclear how they should be navigated. In many cases, the barriers and uncertainties faced are at least partly technical. Technical AI governance, referring to technical analysis and tools for supporting the effective governance of AI, seeks to address such challenges. It can help to (a) identify areas where intervention is needed, (b) identify and assess the efficacy of potential governance actions, and (c) enhance governance options by designing mechanisms for enforcement, incentivization, or compliance. In this paper, we explain what technical AI governance is, why it is important, and present a taxonomy and incomplete catalog of its open problems. This paper is intended as a resource for technical researchers or research funders looking to contribute to AI governance.

연구 동기 및 목표

• 기술 AI 거버넌스 분야의 동기를 부여하고 그 중요성을 정당화한다.
• 문제를 체계화하기 위한 TAIG의 2차원 분류법(역량과 대상)을 도입한다.
• 개방형 기술 문제를 수록하고 향후 연구를 위한 구체적 연구 질문을 제시한다.
• TAIG를 더 넓은 AI 거버넌스 문헌 및 정책 맥락과 연결한다.

제안 방법

• TAIG를 정의하고 AI 거버넌스와의 관계를 명확히 한다.
• 역량(예: 평가, 접근, 검증, 보안, 운영화, 생태계 모니터링)과 대상(데이터, 컴퓨트, 모델 및 알고리즘, 배포)을 포함하는 두 축 분류법을 개발한다.
• 개방형 문제를 역량-대상 쌍에 매핑하고 각 영역에 대한 예시 연구 질문을 제시한다.
• 책임 있는 연구와 자금 조달을 안내하기 위해 범위, 한계 및 잠재적 이중 사용 문제를 강조한다.
• 독자 주도형 구조와 독립적인 섹션 및 정책 요약 부록을 제시한다.

실험 결과

연구 질문

• RQ1 수조 개의 토큰/샘플로 구성된 데이터셋에서 문제 데이터를 식별하기 위해 확장 가능한 방법은 무엇인가요(3.1.1)?
• RQ2 자동 라이선스 수집과 메타데이터 보고를 통해 무허가 데이터에 대한 학습을 방지할 수 있는 방법은 무엇인가요(3.1.1, 3.1.2)?
• RQ3 모델의 동작을 사전 학습 데이터와 파인튜닝 데이터를 포함해 학습 데이터에 귀속시키려면 어떻게 해야 하나요(3.1.3)?
• RQ4 대규모 데이터셋을 효과적으로 분석하는 데 필요한 인프라와 메타데이터는 무엇인가요(3.1.2)?
• RQ5 대규모 모델 학습을 관리하기 위해 컴퓨트 및 하드웨어 사양을 어떻게 정의하고 모니터링해야 하나요(3.2.1, 3.2.2)?

주요 결과

• 기술 AI 거버넌스(TAIG) 분야를 소개하고 그 중요성을 부여한다.
• 역량과 대상을 포함한 TAIG의 구조화된 분류법을 제공한다.
• 데이터, 컴퓨트, 모델, 배포, 평가, 보안, 생태계 모니터링 전반의 개방형 문제를 개관한다.
• 구체적인 예시 연구 질문과 기술 연구자 및 자금 조달자를 위한 정책 요약을 제시한다.
• 확장 가능하고 강력한 평가 방법과 거버넌스 지향 도구의 필요성을 강조한다.
• 이중 사용 고려사항과 비기술적 거버넌스 차원을 언급한다.