[논문 리뷰] Defining the scope of AI regulations

Jonas Schuett|arXiv (Cornell University)|2019. 08. 26.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

이 논문은 법적 정의에서 '인공지능'이라는 용어에 의존하는 것이 모호성과 법적 정밀도 부족으로 인해 바람직하지 않다고 주장한다. 대신 특정 기술적 접근 방식(예: 강화 학습), 응용 분야(예: 얼굴 인식), 능력(예: 물리적 상호작용)에 초점을 맞춘 위험 기반 규제 접근 방식을 제안한다. 이는 법적 정의 요구 조건을 더 잘 충족하며 고도의 인공지능 시스템에 대해서도 적용 가능하다.

ABSTRACT

The paper argues that the material scope of AI regulations should not rely on the term "artificial intelligence (AI)". The argument is developed by proposing a number of requirements for legal definitions, surveying existing AI definitions, and then discussing the extent to which they meet the proposed requirements. It is shown that existing definitions of AI do not meet the most important requirements for legal definitions. Next, the paper argues that a risk-based approach would be preferable. Rather than using the term AI, policy makers should focus on the specific risks they want to reduce. It is shown that the requirements for legal definitions can be better met by defining the main sources of relevant risks: certain technical approaches (e.g. reinforcement learning), applications (e.g. facial recognition), and capabilities (e.g. the ability to physically interact with the environment). Finally, the paper discusses the extent to which this approach can also be applied to more advanced AI systems.

연구 동기 및 목표

• 법적 규제 범위 정의에서 '인공지능'이라는 용어에 의존하는 것에 도전하기 위해.
• 인공지능 규제의 맥락에서 효과적인 법적 정의를 위해 충족되어야 할 핵심 요건을 규명하고 평가하기 위해.
• 기존의 인공지능 정의가 명확성, 정밀도, 집행 가능성 등의 법적 표준을 충족하지 못하는 정도를 평가하기 위해.
• 물질적 규제 범위를 정의하기 위한 위험 기반 대안 프레임워크를 제안하기 위해.
• 이 프레임워크가 고도의 인공지능 또는 인공통합지능(AGI) 시스템에 적용 가능한지 탐색하기 위해.

제안 방법

• 명확성, 정밀도, 일관성 등의 법적 정의 기준에 따라 기존 인공지능 정의를 분석하기 위해.
• 학술, 산업, 정책 분야의 주요 인공지능 정의를 조사하여 법적 적합성을 평가하기 위해.
• 인공지능을 카테고리로 정의하는 것에서 위험의 근본 원인—기술적 접근 방식, 응용 분야, 능력—에 초점을 맞추는 전환을 제안하기 위해.
• 강화 학습과 같은 기술적 접근 방식과 얼굴 인식과 같은 응용 분야가 더 안정적인 규제 기준이 되는 방식을 평가하기 위해.
• 의도와 능력 기준에 초점을 맞춰 위험 기반 프레임워크를 가상의 및 신규 등장하는 AGI 시스템에 적용하기 위해.
• 포괄 조항이나 개정 일정과 같은 메커니즘을 통해 향후 법적 범위 정의를 미래 대비할 수 있도록 제안하기 위해.

실험 결과

연구 질문

• RQ1 왜 '인공지능'이라는 용어는 인공지능 규제의 물질적 범위를 정의하는 데 부적절한가?
• RQ2 효과적인 인공지능 규제를 위해 법적 정의가 충족해야 할 기준은 무엇인가?
• RQ3 기존의 인공지능 정의가 법적 정의의 요구 조건을 얼마나 충족하는가?
• RQ4 기존의 'AI'에 의존하는 것과 비교해 위험 기반 접근 방식이 인공지능 규제의 정밀도와 집행 가능성에 어떻게 기여하는가?
• RQ5 제안된 위험 기반 프레임워크는 고도의 인공지능 또는 인공통합지능(AGI) 시스템을 규제하는 데 확장 가능한가?

주요 결과

• 기존의 인공지능 정의는 명확성, 정밀도, 일관성과 같은 핵심 법적 정의 기준을 충족하지 못하여 규제 목적에는 부적합하다.
• '인공지능'이라는 용어는 너무 모호하고 맥락에 따라 달라져 법적 범위 정의의 신뢰할 만한 기초로 기능할 수 없다.
• 강화 학습, 얼굴 인식, 물리적 상호작용 능력과 같은 특정 위험 원천에 초점을 맞추어 규제를 정의하면 더 안정적이고 집행 가능한 규제 기준을 도출할 수 있다.
• 위험 기반 접근 방식은 확장 가능하고 유연하여, 위임 조치나 자동 폐기 조항과 같은 메커니즘을 통해 향후 업데이트가 가능하다.
• 자기 향상이나 자율적 의사결정 능력 개발을 목표로 하는 의도와 능력을 중심으로 하면 이 프레임워크를 고도의 인공지능 시스템으로까지 확장할 수 있다.
• 유럽위원회의 AI 법안은 이미 위임 권한을 통해 기술 목록과 고위험 응용 분야 목록을 업데이트할 수 있도록 하여 이 접근 방식의 일부를 시행하고 있다.