[논문 리뷰] Ethics of AI: A Systematic Literature Review of Principles and Challenges

Arif Ali Khan, Sher Badshah외 5명|arXiv (Cornell University)|2021. 09. 12.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

이 체계적 문헌 고찰은 윤리적 AI 도입을 위한 22개의 핵심 인공지능 윤리 원칙과 15개의 핵심 과제를 규명하였으며, 투명성, 개인정보 보호, 책임성, 공정성 등이 가장 중요한 원칙으로 부각되었다. 본 연구는 AI 시스템의 윤리적 역량을 평가하고 향상시키기 위한 제안된 인공지능 윤리 성숙도 모델에 기초 자료를 제공한다.

ABSTRACT

Ethics in AI becomes a global topic of interest for both policymakers and academic researchers. In the last few years, various research organizations, lawyers, think tankers and regulatory bodies get involved in developing AI ethics guidelines and principles. However, there is still debate about the implications of these principles. We conducted a systematic literature review (SLR) study to investigate the agreement on the significance of AI principles and identify the challenging factors that could negatively impact the adoption of AI ethics principles. The results reveal that the global convergence set consists of 22 ethical principles and 15 challenges. Transparency, privacy, accountability and fairness are identified as the most common AI ethics principles. Similarly, lack of ethical knowledge and vague principles are reported as the significant challenges for considering ethics in AI. The findings of this study are the preliminary inputs for proposing a maturity model that assess the ethical capabilities of AI systems and provide best practices for further improvements.

연구 동기 및 목표

• AI 윤리에 대한 글로벌 관심 증가에 대응하여 공통으로 인정된 원칙들과 그 원칙들의 도입을 방해하는 장애요소를 규명한다.
• 이론적 AI 윤리 지침과 실제 구현 과제 사이의 격차를 조사한다.
• AI 시스템의 윤리적 역량 평가 및 향상에 기여할 수 있는 실증적 자료를 제공한다.
• 윤리적 지식 부족과 원칙의 모호성 등이 윤리적 AI 구현의 주요 장애요소임을 강조한다.
• 정책 입안자와 현장 전문가가 산업 및 연구 분야에서 AI 윤리 통합을 향상시키기 위해 근거 기반 통찰을 제공한다.

제안 방법

• 메타 분석의 체계성과 엄밀함을 확보하기 위해 Kitchenham과 Charters의 지침을 따르는 체계적 문헌 고찰(SLR)을 수행하였다.
• 파ilot 검색과 역방향 스노우볼링을 통해 최적화된 검색어 조합을 개발하고 학술 데이터베이스를 검색하였다.
• 반복적인 합의 회의를 통해 사전 설정된 포함 및 배제 기준에 따라 27개의 주요 연구를 선정하였다.
• 주제 분석과 분류를 통해 AI 윤리 원칙과 과제를 추출하고 통합하였다.
• CMMI 원칙과 산업 사례 연구 검증을 바탕으로 발견된 결과를 제안된 능력 성숙도 모델(CMM) 프레임워크에 매핑하였다.
• 파ilot 검색, 역방향 스노우볼링, 체계적인 리뷰 프로토콜을 통해 타당성 위협을 관리하였다.

실험 결과

연구 질문

• RQ1 문헌에서 규명된 AI 윤리의 핵심 원칙은 무엇인가?
• RQ2 실제 적용에서 AI 윤리 원칙의 도입을 저지르는 주요 과제는 무엇인가?
• RQ3 규명된 원칙과 과제는 어떻게 AI 윤리 성숙도 모델 개발에 기여할 수 있는가?
• RQ4 다양한 맥락에서 윤리적 AI 구현을 방해하는 가장 빈번한 장애요소는 무엇인가?
• RQ5 문화적, 기술적, 조직적 요소는 AI 윤리 원칙의 해석과 적용에 어떻게 영향을 미치는가?

주요 결과

• 22개의 핵심 AI 윤리 원칙이 글로벌 수준에서 공통으로 규명되었으며, 투명성, 개인정보 보호, 책임성, 공정성이 가장 자주 언급된 원칙이었다.
• AI 윤리 원칙의 도입을 저지르는 가장 큰 과제는 실무자들의 윤리적 지식 부족과 윤리 지침의 모호성이다.
• 인간의 권리, 복지, 데이터 주권, 오용 인식 등 원칙들은 다양한 지침에서 일관되게 강조되었다.
• 상충하는 윤리적 해석, 감시 기구 부족, 법적 프레임워크 부재 등 과제들은 연구 간 빈번히 보고되었다.
• 원칙과 실천 사이의 격을 메울 수 있는 표준화되고 실행 가능하며 맥락에 맞는 윤리적 지침이 명백히 필요하다는 점이 규명되었다.
• 이러한 발견들은 AI 개발 기관의 윤리적 역량 평가 및 향상에 기초가 되는 제안된 AI 윤리 성숙도 모델의 기초 자료가 되었다.