[논문 리뷰] Artificial Intelligence Ethics: An Inclusive Global Discourse?

Cathy Roche, David Lewis외 1명|arXiv (Cornell University)|2021. 08. 23.

Ethics and Social Impacts of AI참고 문헌 11인용 수 7

한 줄 요약

이 논문은 인공지능 윤리에 관한 글로벌 논의가 글로벌 남방과 여성들을 포괄적으로 반영하고 있는지 조사하며, AI 윤리 문서를 분석하여 심각한 부재를 드러낸다. 결과적으로 글로벌 남방 국가들과 여성들에 대한 언급이 극히 적은 것으로 나타나, 윤리적 프레임워크가 배제적일 수 있으며 다양한 기여 없이 고립화를 강화할 위험이 있음을 시사한다.

ABSTRACT

It is widely accepted that technology is ubiquitous across the planet and has the potential to solve many of the problems existing in the Global South. Moreover, the rapid advancement of artificial intelligence (AI) brings with it the potential to address many of the challenges outlined in the Sustainable Development Goals (SDGs) in ways which were never before possible. However, there are many questions about how such advanced technologies should be managed and governed, and whether or not the emerging ethical frameworks and standards for AI are dominated by the Global North. This research examines the growing body of documentation on AI ethics to examine whether or not there is equality of participation in the ongoing global discourse. Specifically, it seeks to discover if both countries in the Global South and women are underrepresented in this discourse. Findings indicate a dearth of references to both of these themes in the AI ethics documents, suggesting that the associated ethical implications and risks are being neglected. Without adequate input from both countries in the Global South and from women, such ethical frameworks and standards may be discriminatory with the potential to reinforce marginalisation.

연구 동기 및 목표

• AI 윤리 논의가 글로벌 남방의 시각을 충분히 포함하고 있는지 평가하기 위해.
• 여성들이 글로벌 AI 윤리 문서에서 얼마나 대표되고 있는지 범위를 조사하기 위해.
• 다양한 기여가 부족하여 주로 윤리적 프레임워크가 배제적이고 차별적인 경향을 띠는지 평가하기 위해.
• AI 거버넌스에서 부족한 기여를 가진 지역과 성별의 목소리를 배제할 경우 발생하는 윤리적 위험을 부각하기 위해.

제안 방법

• 국제기구, 정부, 학술 기관에서 제작한 광범위한 AI 윤리 문서 코퍼스에 대한 체계적 분석.
• 글로벌 남방 소속 국가들과 성별 관련 개념에 대한 언급을 식별하기 위해 주제 코드화.
• 글로벌 남방 국가들과 여성에 대한 언급 빈도와 맥락을 정량적으로 평가하기 위해.
• 대조적 검토를 통해 대표성 또는 생략의 패턴을 탐지하기 위해 윤리적 프레임워크를 비교.
• 부재의 의미를 해석하기 위해 정성적 콘텐츠 분석을 활용하기 위해.

실험 결과

연구 질문

• RQ1 글로벌 AI 윤리 문서에서 글로벌 남방 국가들이 얼마나 자주 언급되고 있는가?
• RQ2 여성들은 AI 윤리 프레임워크와 표준에서 얼마나 자주 언급되고 있으며, 어떤 맥락에서 언급되고 있는가?
• RQ3 글로벌 남방의 시각과 여성들이 AI 윤리 원칙 수립에 부족하게 반영되는 데 어떤 영향을 미치는가?
• RQ4 다양한 기여가 부족하여 현재의 AI 윤리 프레임워크가 체계적 고립화를 강화할 위험이 있는가?

주요 결과

• 분석 결과, AI 윤리 문서 내에서 글로벌 남방 국가들에 대한 언급이 극도로 부족한 것으로 나타났다.
• 여성들은 AI 윤리 논의에서 부족하게 대표되었으며, 윤리적 프레임워크와 표준에서 극히 적은 언급이 있었다.
• 윤리적 프레임워크는 글로벌 남방의 지역적 위험과 가치를 고려하는 데 한계가 있었다.
• 포용되지 않은 상황은 AI 윤리 기준이 기존의 권력 불균형과 고립화를 악성으로 유지할 수 있음을 시사한다.
• 다양한 기여 없이 윤리 지침은 문화적으로 편향되며 글로벌 과제를 해결하는 데 덜 효과적일 수 있다.
• 이러한 발견은 AI 윤리 개발에서 더 포용적인 거버넌스 모델이 절실하게 필요하다는 점을 강조한다.