[논문 리뷰] Challenges and Solutions in AI for All

Rifat Ara Shams, Didar Zowghi외 1명|arXiv (Cornell University)|2023. 07. 20.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

AI에서의 D&I 도전 과제 55건, 솔루션 33건, 더불어 48편의 논문(2017–2022)에서 AI 도전 과제를 통한 D&I 24건 및 D&I를 위한 AI 솔루션 23건이 확인되었습니다.

ABSTRACT

Artificial Intelligence (AI)'s pervasive presence and variety necessitate diversity and inclusivity (D&I) principles in its design for fairness, trust, and transparency. Yet, these considerations are often overlooked, leading to issues of bias, discrimination, and perceived untrustworthiness. In response, we conducted a Systematic Review to unearth challenges and solutions relating to D&I in AI. Our rigorous search yielded 48 research articles published between 2017 and 2022. Open coding of these papers revealed 55 unique challenges and 33 solutions for D&I in AI, as well as 24 unique challenges and 23 solutions for enhancing such practices using AI. This study, by offering a deeper understanding of these issues, will enlighten researchers and practitioners seeking to integrate these principles into future AI systems.

연구 동기 및 목표

• AI에서의 D&I를 AI를 위한 D&I와 구분하여 정의한다.
• 문헌(2017–2022)에서 도전 과제와 솔루션을 식별하고 분류한다.
• AI의 D&I 연구에서 다루는 인구통계학적 특성, 도메인, AI 기술을 분석한다.
• D&I와 AI의 격차를 평가하고 향후 연구 방향을 제시한다.
• AI 설계 및 배포에 D&I 원칙을 통합하기 위한 지침을 제시한다.

제안 방법

• Kitchenham 가이드라인에 따라 체계적 문헌 고찰을 수행한다.
• AI의 D&I 및 D&I를 위한 AI에 대한 광범위한 키워드 전략으로 다섯 개 데이터베이스를 검색한다.
• 주요/보조 검색에서 포함 기준(2017–2022)을 충족하는 48편의 논문을 선별한다.
• 도전 과제를 추출하고 해당 솔루션과 매핑하기 위해 개방 코딩을 수행한다.
• 5문항 채점 루브릭을 사용하여 연구 품질을 평가하고 경험적 연구와 비경험적 연구를 보고한다.

Figure 1: An overview of the research method

실험 결과

연구 질문

• RQ1 RQ1: AI의 다양성 및 포용(D&I in AI)에 관한 문헌에 어떤 도전 과제와 솔루션이 존재하는가?
• RQ2 RQ2: 다양성과 포용 실천을 위한 AI의 적용과 관련해 어떤 도전 과제와 솔루션이 존재하는가?

주요 결과

• 55개의 고유한 도전 과제와 33개의 고유한 솔루션이 식별되었다.
• D&I를 위한 AI에서 24개의 고유한 도전 과제와 23개의 고유한 솔루션이 식별되었다.
• 대부분의 연구(18편)가 2022년에 발표되었고 2021년에 11편, 저자 소속은 미국이 지배적이었다.
• 성별이 가장 많이 다루어진 다양성 속성이며, 그다음으로 인종이 뒤를 잇고, 기타 속성은 연구가 부족하다.
• 얼굴 인식 분석(Facial analysis)과 자연어 처리(NLP)가 D&I 맥락에서 가장 많이 다뤄지는 AI 도메인이다.
• 거버넌스 관련 도전 과제와 솔루션은 D&I in AI와 AI for D&I 모두에서 덜 다루어진 편이다.

Figure 2: SLR paper selection summary