[논문 리뷰] A Systematic Literature Review of Human-Centered, Ethical, and Responsible AI

Mohammad Tahaei, Marios Constantinides외 2명|arXiv (Cornell University)|2023. 02. 10.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 체계적 문헌 리뷰는 AIES, CHI, CSCW 및 FAccT에서 발표된 164편의 논문을 분석하여 인간 중심, 윤리적, 책임 있는 인공지능(HCER-AI) 분야의 현황을 맵핑하며, 거버넌스, 공정성, 설명 가능성에 대한 강한 집중을 드러내지만, 개인정보 보호, 보안, 인간의 번영 분야에 상당한 격차가 있음을 밝혀냈다. 본 연구는 예상치 못한 AI 영향을 예측하고 현재 지배적인 주제 외의 분야를 다양화하기 위해 더 넓은 연구 범위가 필요하다고 제안한다.

ABSTRACT

As Artificial Intelligence (AI) continues to advance rapidly, it becomes increasingly important to consider AI's ethical and societal implications. In this paper, we present a bottom-up mapping of the current state of research at the intersection of Human-Centered AI, Ethical, and Responsible AI (HCER-AI) by thematically reviewing and analyzing 164 research papers from leading conferences in ethical, social, and human factors of AI: AIES, CHI, CSCW, and FAccT. The ongoing research in HCER-AI places emphasis on governance, fairness, and explainability. These conferences, however, concentrate on specific themes rather than encompassing all aspects. While AIES has fewer papers on HCER-AI, it emphasizes governance and rarely publishes papers about privacy, security, and human flourishing. FAccT publishes more on governance and lacks papers on privacy, security, and human flourishing. CHI and CSCW, as more established conferences, have a broader research portfolio. We find that the current emphasis on governance and fairness in AI research may not adequately address the potential unforeseen and unknown implications of AI. Therefore, we recommend that future research should expand its scope and diversify resources to prepare for these potential consequences. This could involve exploring additional areas such as privacy, security, human flourishing, and explainability.

연구 동기 및 목표

• 주요 학회에서 인간 중심, 윤리적, 책임 있는 인공지능(HCER-AI)의 교차 분야에서의 현재 연구 현황을 맵핑하기 위해.
• HCER-AI 문헌에서 지배적인 연구 주제, 방법 및 격차를 식별하기 위해.
• 현재 연구가 인공지능의 장기적, 예측 불가능하거나 알려지지 않은 사회적 영향을 충분히 다루고 있는지 평가하기 위해.
• 공정성, 거버넌스, 설명 가능성 외의 범위를 넓혀 미래 연구 방향을 제안하기 위해.
• 증거 기반 융합을 통해 더 포괄적이고 사회와 일치하는 AI 시스템 개발을 지원하기 위해.

제안 방법

• AI 윤리 및 인간 요인 분야의 선도적 학회인 AIES, CHI, CSCW 및 FAccT에서 발표된 164편의 동료 심사 논문을 대상으로 체계적 문헌 리뷰를 수행하였다.
• Braun과 Clarke(2008)의 주제 분석 기반으로 수집된 논문들 사이의 연구 주제를 분류하고 해석하였다.
• 학회 간 연구 주제, 연구 방법론 및 주제 분포를 맵핑하여 패턴과 격차를 식별하였다.
• 공정성, 거버넌스, 설명 가능성, 개인정보 보호, 보안, 인간의 번영과 같은 핵심 HCER-AI 차원의 표현을 평가하였다.
• qualitative 융합을 통해 HCER-AI 분야의 반복적인 연구 격차와 새로운 우선순위를 식별하였다.
• 문헌의 주제 및 방법론 분석 기반으로 향후 연구 방향에 대한 권고안을 도출하였다.

Figure 1. An overview of our research method. We started with 228 records from the ACM Digital Library. After assessing quality and eligibility based on our inclusion criteria, we included and analyzed 164 research papers.

실험 결과

연구 질문

• RQ1 AIES, CHI, CSCW 및 FAccT 학회에서 HCER-AI 분야의 현재 연구 현황은 어떠한가?
• RQ2 HCER-AI 연구에서 주로 사용되는 연구 방법은 무엇인가?
• RQ3 HCER-AI 분야에서 특히 소외된 분야인 주요 연구 격차는 무엇인가?
• RQ4 다른 학회들이 개인정보 보호, 보안, 인간의 번영과 같은 특정 HCER-AI 차원을 어떻게 우선시하거나 忽시하는가?
• RQ5 현재 연구가 인공지능의 예상치 못한 또는 알려지지 않은 사회적 영향을 어느 정도 예측하고 있는가?

주요 결과

• CHI와 CSCW는 AIES나 FAccT와 비교해 더 넓은 연구 포트폴리오를 보이며, 인간 중심 및 윤리적 고려사항의 더 광범위한 범위를 다루고 있다.
• AIES와 FAccT는 거버넌스와 공정성에 강한 중점을 두고 있지만, 개인정보 보호, 보안, 인간의 번영 분야의 논문은 매우 적게 출간되고 있다.
• 설명 가능성은 공통된 주제이지만, 특히 AIES와 FAccT에서 기술적 과제로 다루어지는 경우가 많고, 사회적 측면으로서의 고려가 부족하다.
• 문헌은 특히 소수자 집단과 집단적 사회적 영향에 대한 장기적, 체계적 또는 급격히 발생하는 위험에 대해 제한된 관심을 보이고 있다.
• 실제 환경 평가나 워크 인티그레이티드 러닝 접근법에 대한 연구가 부족한데, 이는 점점 더 요구되고 있음에도 불구하고 그렇다.
• 특허 분석 결과, AI 기반 의사결정 및 해석 가능성에 대한 강한 추세가 나타났으며, 모델 성능 및 투명성에 대한 관심이 증가하고 있지만, 윤리적 거버넌스나 사회적 영향에 대한 집중은 덜하다.

Figure 2. Count of HCER-AI papers per research method (n=164).