[논문 리뷰] Responsible AI Governance: A Systematic Literature Review

Amna Batool, Didar Zowghi외 1명|arXiv (Cornell University)|2023. 12. 18.

Ethics and Social Impacts of AI인용 수 9

한 줄 요약

AI 거버넌스에 대한 체계적 문헌 검토로 61편의 연구를 다루며 프레임워크, 모델, 도구, 정책을 다루고 3W1H(Who-What-When-How) 렌즈로 거버넌스 범위 평가 및 격차 식별.

ABSTRACT

As artificial intelligence transforms a wide range of sectors and drives innovation, it also introduces complex challenges concerning ethics, transparency, bias, and fairness. The imperative for integrating Responsible AI (RAI) principles within governance frameworks is paramount to mitigate these emerging risks. While there are many solutions for AI governance, significant questions remain about their effectiveness in practice. Addressing this knowledge gap, this paper aims to examine the existing literature on AI Governance. The focus of this study is to analyse the literature to answer key questions: WHO is accountable for AI systems' governance, WHAT elements are being governed, WHEN governance occurs within the AI development life cycle, and HOW it is executed through various mechanisms like frameworks, tools, standards, policies, or models. Employing a systematic literature review methodology, a rigorous search and selection process has been employed. This effort resulted in the identification of 61 relevant articles on the subject of AI Governance. Out of the 61 studies analysed, only 5 provided complete responses to all questions. The findings from this review aid research in formulating more holistic and comprehensive Responsible AI (RAI) governance frameworks. This study highlights important role of AI governance on various levels specially organisational in establishing effective and responsible AI practices. The findings of this study provides a foundational basis for future research and development of comprehensive governance models that align with RAI principles.

연구 동기 및 목표

• AI 거버넌스에 관한 기존 연구를 종합하여 누가 AI 거버넌스를 관리하는지, 무엇이 거버넌스 대상인지, AI 수명주기에서 언제 거버넌스가 수행되는지, 그리고 어떻게 거버넌스가 실행되는지 이해한다.
• 다양한 수준(팀, 조직, 산업, 국가, 국제)에서 프레임워크, 모델, 도구, 표준, 정책, 지침으로 거버넌스 솔루션을 분류한다.
• 현재 AI 거버넌스 솔루션의 한계와 도전을 평가하고 포괄적 책임 있는 AI 거버넌스(RAI)를 위한 격차를 파악한다.
• 향후 윤리적 원칙과 다양한 이해관계자의 참여에 부합하는 구조화된 RAI 거버넌스 프레임워크의 기초를 제공한다.

제안 방법

• Kitchenham 지침에 따른 체계적 문헌 검토를 수행한다.
• 3W1H(Who, What, When, How)를 사용해 61편의 선정된 논문(경험적 및 비경험적)을 분석한다.
• 거버넌스 솔루션을 다섯 가지 거버넌스 수준으로 분류하고 이해관계자를 거버넌스 수준별로 그룹화한다.
• 게시 연도, 연구 유형, 3W1H 커버리지를 통해 데이터 추출을 수행하여 거버넌스 솔루션의 완전성을 식별한다.

실험 결과

연구 질문

• RQ1 RQ1: 문헌에서 제시된 AI에 관한 어떤 거버넌스 프레임워크, 모델, 도구, 정책이 있는가?
• RQ2 RQ2: 기존의 AI 거버넌스 접근/솔루션에서 다루는 대상 AI 적용 도메인은 무엇인가?
• RQ3 RQ3: 문헌에서 논의된 AI 거버넌스의 한계와 도전은 무엇인가?

주요 결과

• 61편의 연구가 분석되었고, 이 중 2023년에 27편이 게시되었으며 완전한 3W1H 응답을 제공하는 연구는 소수에 불과하다(오직 5편).
• 대다수의 거버넌스 솔루션(19)가 조직 차원의 거버넌스를 다루는 반면, 국가 및 국제 차원은 더 적고, 완전한 3W1H 커버리지를 제공하는 연구는 없다.
• 데이터와 시스템이 가장 자주 거버너블한 축이며, 인간과 프로세스는 문헌에서 상대적으로 덜 강조된다.
• 누가/언제/무엇보다도 거버넌스 방법/도구에 초점이 강하게 맞춰져 있어 이해관계자 역할과 수명주기 단계 커버리지에 격차가 존재한다.
• 다양한 AI 거버넌스 프레임워크, 모델, 도구, 정책 지침이 존재하지만 윤리적 원칙 및 이해관계자의 참여가 수명주기의 다양한 단계에서 일관되게 다뤄지지 않는다.
• 일반적인 적용 도메인으로는 보건의료와 로봇공학이 포함되지만, 많은 연구에서 도메인을 구체적으로 명시하지 않는다.