[논문 리뷰] The Different Faces of AI Ethics Across the World: A Principle-Implementation Gap Analysis

Lionel Nganyewou Tidjon, Foutse Khomh|arXiv (Cornell University)|2022. 05. 12.

Artificial Intelligence in Healthcare and Education인용 수 8

한 줄 요약

이 논문은 29개 국가 및 14개 국가에서의 실질적 구현 격차를 분석하여 글로벌 AI 윤리 원칙을 다루며, 투명성이 가장 자주 언급된 원칙임을 규명하고, 도구 및 훈련 부족과 같은 핵심 격차를 드러낸다. 이는 윤리적 원칙을 지속적인 모니터링, 다양한 팀, 표준화된 관행을 통해 AI 라이프사이클에 윤리를 통합하는 'EthicsOps'를 제안하여 원칙과 구현 간 격차를 메운다.

ABSTRACT

Artificial Intelligence (AI) is transforming our daily life with several applications in healthcare, space exploration, banking and finance. These rapid progresses in AI have brought increasing attention to the potential impacts of AI technologies on society, with ethically questionable consequences. In recent years, several ethical principles have been released by governments, national and international organisations. These principles outline high-level precepts to guide the ethical development, deployment, and governance of AI. However, the abstract nature, diversity, and context-dependency of these principles make them difficult to implement and operationalize, resulting in gaps between principles and their execution. Most recent work analysed and summarized existing AI principles and guidelines but they did not provide findings on principle-implementation gaps and how to mitigate them. These findings are particularly important to ensure that AI implementations are aligned with ethical principles and values. In this paper, we provide a contextual and global evaluation of current ethical AI principles for all continents, with the aim to identify potential principle characteristics tailored to specific countries or applicable across countries. Next, we analyze the current level of AI readiness and current implementations of ethical AI principles in different countries, to identify gaps in the implementation of AI principles and their causes. Finally, we propose recommendations to mitigate the principle-implementation gaps.

연구 동기 및 목표

• 모든 대륙에 걸쳐 국가별 및 글로벌 AI 윤리 원칙을 식별하고 평가하는 것.
• 14개 국가에서의 AI 준비도 수준과 윤리 원칙의 구현 수준을 평가하는 것.
• 공표된 AI 윤리 원칙과 실제 구현 간 격차의 근본 원인을 진단하는 것.
• 원칙-구현 격차를 해소하기 위한 실행 가능하고 맥락에 민감한 권고안을 제안하는 것.
• EthicsOps를 AI 개발 라이프사이클에 윤리를 통합하는 체계적 프레임워크로 도입할 것을 주장하는 것.

제안 방법

• 6개 대륙에 걸쳐 29개 국가에서의 100개 AI 윤리 문서의 체계적 수집 및 분석.
• 14개 국가에서의 121개 실제 구현 사례(예: 법률, 기준, 체크리스트, 훈련 도구) 평가.
• 빈도 및 다중 대륙에서의 발생 빈도 분석을 통한 원칙의 반복성 및 글로벌 커버리지 규명.
• 도구, 기준, 거버넌스를 중심으로 공표된 원칙과 실제 구현 간 격차 비교를 통한 격차 분석.
• 구현 보고서의 정성적 및 정량적 평가를 통한 구현 격차의 근본 원인 분석.
• DevSecOps 및 AIOps 원칙을 윤리적 AI 구현을 위한 지속적이고 라이프사이클 통합형 프레임워크로 조합한 EthicsOps 제안.

실험 결과

연구 질문

• RQ1 다양한 국가 및 대륙에서 가장 퍼진 AI 윤리 원칙은 무엇인가?
• RQ2 국가 및 국제적 AI 윤리 원칙이 현장에서의 실제 구현과 얼마나 일치하는가?
• RQ3 AI 윤리의 원칙-구현 격차의 주요 근본 원인은 무엇인가?
• RQ4 EthicsOps는 원칙과 실제 실행 간 격차를 메우기 위해 어떻게 운영화될 수 있는가?
• RQ5 다양성, 교육, 공-private 파트너십은 윤리적 AI 구현을 강화하는 데 어떤 역할을 하는가?

주요 결과

• 100개 분석 문서에서 29개 국가의 AI 윤리 원칙 중 투명성이 가장 자주 언급된 원칙이다.
• 세계적으로 가장 퍼진 11개 원칙—개인정보 보호, 투명성, 공정성, 보안, 안전성, 책임성, 책임감, 설명 가능성, 복지, 인권, 포용성—은 국가 및 국제 기준에서 가장 높은 수의 프레임워크에 포함되어 있다.
• GPAI, OECD, G20 원칙은 책임성 원칙을 누락하고 있으나, 이는 국가 기준에서 널리 채택된 원칙이다.
• 미국, 영국, 캐나다는 2016년에서 2021년 사이에 가장 많은 AI 윤리 원칙을 발표했다.
• 다섯 가지 핵심 원칙-구현 격차가 확인되었다: 효과적인 구현 도구 부족, 약한 기준, 기업 거버넌스 통합 부족, 훈련 부족, 윤리적 성과 측정 지표 부족.
• 격차의 근본 원인으로는 인간의 편향, 측정 지표 부족, AI 개발 팀의 다양성 및 포용성 부족이 있다.