[논문 리뷰] Responsible Artificial Intelligence: A Structured Literature Review

Sabrina Goellner, Marina Tropmann-Frick외 1명|arXiv (Cornell University)|2024. 03. 11.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

본 논문은 Responsible AI를 정의하고 윤리, 신뢰, 설명가능성, 프라이버시, 보안을 강조하는 인간 중심 프레임워크를 제시하기 위해 구조화된 문헌 조사를 수행하여 정책과 실행을 안내한다.

ABSTRACT

Our research endeavors to advance the concept of responsible artificial intelligence (AI), a topic of increasing importance within EU policy discussions. The EU has recently issued several publications emphasizing the necessity of trust in AI, underscoring the dual nature of AI as both a beneficial tool and a potential weapon. This dichotomy highlights the urgent need for international regulation. Concurrently, there is a need for frameworks that guide companies in AI development, ensuring compliance with such regulations. Our research aims to assist lawmakers and machine learning practitioners in navigating the evolving landscape of AI regulation, identifying focal areas for future attention. This paper introduces a comprehensive and, to our knowledge, the first unified definition of responsible AI. Through a structured literature review, we elucidate the current understanding of responsible AI. Drawing from this analysis, we propose an approach for developing a future framework centered around this concept. Our findings advocate for a human-centric approach to Responsible AI. This approach encompasses the implementation of AI methods with a strong emphasis on ethics, model explainability, and the pillars of privacy, security, and trust.

연구 동기 및 목표

• Responsible AI의 간결한 정의를 명시한다
• 윤리, 신뢰, 설명가능성, 프라이버시, 보안을 포함한 Responsible AI의 최신 연구 현황을 분석한다
• 향후 연구를 위한 미해결 문제, 도전과제 및 기회들을 식별한다
• Responsible AI 개념을 기반으로 향후 프레임워크를 개발하기 위한 접근법을 제안한다
• 신뢰 및 규제 정합성을 지원하는 Responsible AI에 대한 인간 중심 접근을 옹호한다

제안 방법

• 확립된 지침에 따라 체계적 문헌 고찰(SLR)
• ACM, IEEE, SpringerLink, Elsevier ScienceDirect에서 동료 심사를 거친 논문을 대상으로 검색
• 윤리, 신뢰, 설명가능성, 프라이버시와 함께 AI/ML 용어를 포함하는 검색 쿼리를 사용
• 비관련 연구를 제외하기 위해 제목/초록/키워드 및 적격성 기준으로 선별
• 포함된 254편의 논문에 대한 질적 및 양적 분석을 수행
• 정의와 관련 용어를 합성하여 Unified한 Responsible AI 개념을 도출

Figure 1: Structured review flow chart: the Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) flow chart detailing the records identified and screened, the number of full-text articles retrieved and assessed for eligibility, and the number of studies included in the review.

실험 결과

연구 질문

• RQ1 RQ1 일반적이거나 합의된 Responsible AI의 정의와 이를 정의하는 용어는 무엇인가?
• RQ2 RQ2 Responsible AI는 신뢰, 윤리, 설명가능성, 프라이버시, 보안 등 관련 개념 전반에 걸쳐 무엇을 포함하는가?

주요 결과

• 용어 중복이 상당하다; Responsible AI는 최상의 설명으로 Ethics, Trustworthiness, Security, Privacy, and Explainability로 정의된다.
• 저자들은 정의를 제안한다: Responsible AI는 인간 중심이며 윤리적 의사결정, 공정하고 차별 없는 프로세스, 법규와 규범의 정합성을 통해 사용자 신뢰를 보장한다.
• Explainability, safety, fairness, accountability, ethics, security, privacy, and transparency는 정의들 간의 핵심 중복 용어이다.
• 신뢰는 책임 있는 AI 시스템의 결과로 간주되어야 하며, 인간 중심 설계는 여전히 필수적이다.
• 내용상 유사한 표현으로는 Trustworthy AI, Ethical AI, and Human-Centered AI가 있으며, 이는 Responsible AI를 정의하는 핵심 용어로 수렴한다.
• 본 연구는 최첨단 주제들에 대한 구조화된 그림을 제공한다: Trustworthy AI, Ethical AI, Explainable AI, Privacy-preserving AI, and Secure AI, 이들 간의 상호 연관성과 과제에 중점을 두고.

Figure 2: Venn diagram