[논문 리뷰] Connecting the Dots in Trustworthy Artificial Intelligence: From AI Principles, Ethics, and Key Requirements to Responsible AI Systems and Regulation

Natalia Díaz-Rodríguez, Javier Del Ser외 4명|arXiv (Cornell University)|2023. 05. 02.

Ethics and Social Impacts of AI인용 수 34

한 줄 요약

본 논문은 윤리 원칙, 철학적 윤리, 위험 기반 규제, 기술적 요구사항을 연결하는 포괄적 프레임워크를 제시해 책임 있는 AI 시스템을 정의하고, 이를 감사와 규제 샌드박스가 촉진한다.

ABSTRACT

Trustworthy Artificial Intelligence (AI) is based on seven technical requirements sustained over three main pillars that should be met throughout the system's entire life cycle: it should be (1) lawful, (2) ethical, and (3) robust, both from a technical and a social perspective. However, attaining truly trustworthy AI concerns a wider vision that comprises the trustworthiness of all processes and actors that are part of the system's life cycle, and considers previous aspects from different lenses. A more holistic vision contemplates four essential axes: the global principles for ethical use and development of AI-based systems, a philosophical take on AI ethics, a risk-based approach to AI regulation, and the mentioned pillars and requirements. The seven requirements (human agency and oversight; robustness and safety; privacy and data governance; transparency; diversity, non-discrimination and fairness; societal and environmental wellbeing; and accountability) are analyzed from a triple perspective: What each requirement for trustworthy AI is, Why it is needed, and How each requirement can be implemented in practice. On the other hand, a practical approach to implement trustworthy AI systems allows defining the concept of responsibility of AI-based systems facing the law, through a given auditing process. Therefore, a responsible AI system is the resulting notion we introduce in this work, and a concept of utmost necessity that can be realized through auditing processes, subject to the challenges posed by the use of regulatory sandboxes. Our multidisciplinary vision of trustworthy AI culminates in a debate on the diverging views published lately about the future of AI. Our reflections in this matter conclude that regulation is a key for reaching a consensus among these views, and that trustworthy and responsible AI systems will be crucial for the present and future of our society.

연구 동기 및 목표

• 원칙, 윤리, 규제 및 기술 요구사항에 걸친 다축의 신뢰 가능한 AI 관점을 합성한다.
• AI 원칙을 책임 있는 AI 시스템을 위한 실용적 요구사항과 감사 프로세스로 번역한다.
• EU AI 규칙의 위험 기반 규제를 신뢰 가능한 AI를 위한 실용적 거버넌스 모델로 분석한다.
• 규제와 기술적·조직적 관행을 통합하는 결과물로서 책임 있는 AI 시스템을 제안한다.

제안 방법

• UNESCO, Telefónica, EU의 윤리 원칙을 분석해 핵심 신뢰 가능한 AI 개념을 도출한다.
• 신뢰 가능한 AI를 네 축으로 분해한다: 윤리 원칙, 철학적 윤리, 위험 기반 규제, 기술 요구사항.
• 일곱 가지 기술적 및 거버넌스 요건(인간의 주체성 및 감독; 강건성 및 안전성; 프라이버시 및 데이터 거버넌스; 투명성; 다양성 및 공정성; 사회적 및 환경적 복지; 책임성)을 무엇(What), 왜(Why), 어떻게(How)의 렌즈로 검토한다.
• AI 시스템에서 책임성을 실현하는 매개체로서 규제 샌드박스와 감사를 논의한다.
• 감사 및 준수를 설명하기 위한 AI 헬스케어에 대한 사례 연구 지향적 관점을 제공한다.
• 일반 목적 AI 및 동적 규제를 포함한 향후 방향에 대해 논의한다.

실험 결과

연구 질문

• RQ1 윤리 원칙, 철학, 규제 및 기술 요구사항에 걸쳐 신뢰 가능한 AI를 어떻게 실현할 수 있는가?
• RQ2 일곱 가지 신뢰성 요건에 대한 구체적 구현 및 감사 방법은 무엇인가?
• RQ3 위험 기반 EU AI 법 프레임워크가 고위험 AI 시스템에 대한 실질적 의무로 어떻게 번역되는가?
• RQ4 규제 샌드박스가 책임 있는 AI 시스템 달성에 어떤 역할을 하는가?
• RQ5 GPAIS 및 신경과학 기술과 같은 신흥 AI 시스템에 관한 어떤 논쟁과 규제 격차가 존재하는가?

주요 결과

• 신뢰 가능한 AI는 원칙, 윤리, 규제 및 기술을 연결하는 네 축에 걸쳐 있다.
• 일곱 가지 신뢰성 요건은 그것이 무엇인지, 왜 필요한지, 그리고 실제로 어떻게 구현하는지에 따라 분석될 수 있다.
• 규제 샌드박스와 감사는 책임 있는 AI 시스템을 실현하기 위한 실용적 도구로 제안된다.
• EU AI 법은 네 가지 위험 수준과 고위험 시스템에 대한 구체적 의무를 갖춘 위험 기반 접근을 채택한다.
• 고위험 AI 범주에는 법집행, 교육 접근성, 채용, 중요 인프라와 같은 영역이 포함되어 적합성 평가 및 거버넌스에 정보를 제공한다.