[논문 리뷰] FATE in AI: Towards Algorithmic Inclusivity and Accessibility

Isa Inuwa-Dutse|arXiv (Cornell University)|2023. 01. 03.

Ethics and Social Impacts of AI참고 문헌 67인용 수 5

한 줄 요약

이 논문은 글로벌 남부 지역의 소외된 공동체들로부터 대표성 있는 데이터를 수집하고 정제함으로써 인공지능에서 알고리즘의 포용성과 접근성 향상을 위한 공동체 주도 전략을 제안한다. 나이지리아에서 실시한 사용자 연구(n=43)와 참가형 세션(n=30)을 통해, AI 시스템이 흔히 편향을 내재하고 있으며 맥락에 특화된 투명성이 부족하다는 점을 확인하였으며, 이에 따라 윤리적 AI 개발을 이끄는 데 기여할 수 있는 공동체의 우려와 가치를 담은 공공 레포지터리 구축을 권장한다.

ABSTRACT

Artificial Intelligence (AI) is at the forefront of modern technology, and its effects are felt in many areas of society. To prevent algorithmic disparities, fairness, accountability, transparency, and ethics (FATE) in AI are being implemented. However, the current discourse on these issues is largely dominated by more economically developed countries (MEDC), leaving out local knowledge, cultural pluralism, and global fairness. This study aims to address this gap by examining FATE-related desiderata, particularly transparency and ethics, in areas of the global South that are underserved by AI. A user study (n=43) and a participatory session (n=30) were conducted to achieve this goal. The results showed that AI models can encode bias and amplify stereotypes. To promote inclusivity, a community-led strategy is proposed to collect and curate representative data for responsible AI design. This will enable the affected community or individuals to monitor the increasing use of AI-powered systems. Additionally, recommendations based on public input are provided to ensure that AI adheres to social values and context-specific FATE needs.

연구 동기 및 목표

• 인공지능 논의에서 서구 중심적 시각의 지배를 해소하기 위해.
• 글로벌 남부 지역의 소외된 공동체들이 인공지능의 FATE(정의, 책임성, 투명성, 윤리) 관련 문제를 어떻게 인식하고 참여하는지 탐색하기 위해.
• 책임감 있는 AI 설계를 위한 공동체 기반 데이터 수집 및 정제 방법을 개발하고 실행하기 위해.
• 현지 가치, 문화적 다원성, 사회학적 다양성을 통합함으로써 알고리즘의 투명성과 포용성을 향상시키기 위해.

제안 방법

• 나이지리아의 온라인 사용자들을 대상으로 FATE 관련 인공지능에 대한 통찰을 확보하기 위해 사용자 연구(n=43)와 참가형 세션(n=30)을 실시하였다.
• 공개적이고 접근 가능한 두 가지 레포지터리인 '우려의 문서'와 '가치의 문서'를 개발하고 배포하였다.
• 명료성, 맥락, 언어의 적합성에 중점을 두어 AI 설명 방식에 대한 정성적 피드백을 수집하였다.
• 광고 추천 및 결정 설명과 관련된 AI의 투명성과 공정성에 대한 사용자 인식을 분석하였다.
• 알고리즘 편향을 완화하고 윤리적 AI 개발을 보장하기 위해 공동체 주도의 데이터 정제 모델을 제안하였다.
• 영향을 받는 공동체들이 AI 거버넌스 및 투명성 메커니즘을 설계하는 데 참여할 수 있도록 참가형 설계 원칙을 활용하였다.

실험 결과

연구 질문

• RQ1 소외된 공동체들이 글로벌 남부 지역에서 알고리즘의 투명성과 윤리성에 대해 어떻게 인식하고 있는가?
• RQ2 비서구적이고 자원이 제한된 맥락에서 사용자들이 FATE 관련 주요 우려와 가치를 어떻게 표현하고 있는가?
• RQ3 공동체 주도의 데이터 수집 및 정제는 알고리즘의 공정성과 포용성을 어떻게 향상시킬 수 있는가?
• RQ4 현지 문화적·언어적 맥락에서 가장 효과적이고 접근 가능한 AI 설명 방식은 무엇인가?
• RQ5 공동체의 우려와 가치를 담은 공공 레포지터리는 AI 개발을 감시하고 이끌기 위해 어떻게 기여할 수 있는가?

주요 결과

• 참가자들은 온라인 광고에 대한 AI 설명이 종종 모호하고 정보가 부족하며 지나치게 복잡하다고 보고하였으며, 한 참가자는 인스타그램의 설명이 너무 길어 단순화될 수 있었음을 지적하였다.
• 맥락에 특화되고 가치 중심이며 언어적으로 적합한 설명 방식에 대한 강력한 수요가 있었으며, 이는 알고리즘의 접근성과 사용자 이해를 향상시키기 위함이었다.
• 연구에서 AI 모델이 종종 사회적 편향을 내재하고 이를 증폭시키는 것으로 밝혀졌으며, 특히 대표성이 부족한 데이터로 훈련된 경우 인종과 성별과 관련된 편향이 두드러졌다.
• 공동체 주도의 데이터 정제는 알고리즘 편향을 완화하고 AI 시스템이 현지 규범과 가치를 반영하도록 보장하는 데 핵심적인 메커니즘이라고 확인되었다.
• 참여형 접근을 통해 공공 레포지터리에 우려와 가치를 기여함으로써 공동체가 AI 배포를 능동적으로 모니터링하고 영향력을 행사할 수 있음을 밝혀냈다.
• 디지털 리터러시와 언어는 투명성의 주요 장벽이었으며, 사용자들은 현지 언어로, 그리고 그들의 사회학적·문화적 맥락에 맞는 형태의 설명이 필요하다고 강조하였다.