[논문 리뷰] Reconfiguring Diversity and Inclusion for AI Ethics

Nicole Chi, Emma Lurie외 1명|arXiv (Cornell University)|2021. 05. 06.

Ethics and Social Impacts of AI참고 문헌 46인용 수 5

한 줄 요약

이 논문은 구글, 마이크로소프트, 그리고 Salesforce가 기업의 AI 윤리 문서에서 다양성과 포용성을 재구성하는 방식을 분석한다. 이들은 이를 공학 워크플로우에 통합함으로써 시민권 기반의 정당화에서 기술적 공정성으로의 전환을 이룬다. 이는 엔지니어들에게 윤리 문제를 더 실천 가능하게 만들지만, 책임을 고객에게로 이행함으로써 기업이 윤리적 책임을 분담자로 위치시키며, 결과적으로 AI 시스템 내 구조적 형평성의 약화를 초래할 위험이 있다.

ABSTRACT

Activists, journalists, and scholars have long raised critical questions about the relationship between diversity, representation, and structural exclusions in data-intensive tools and services. We build on work mapping the emergent landscape of corporate AI ethics to center one outcome of these conversations: the incorporation of diversity and inclusion in corporate AI ethics activities. Using interpretive document analysis and analytic tools from the values in design field, we examine how diversity and inclusion work is articulated in public-facing AI ethics documentation produced by three companies that create application and services layer AI infrastructure: Google, Microsoft, and Salesforce. We find that as these documents make diversity and inclusion more tractable to engineers and technical clients, they reveal a drift away from civil rights justifications that resonates with the managerialization of diversity by corporations in the mid-1980s. The focus on technical artifacts, such as diverse and inclusive datasets, and the replacement of equity with fairness make ethical work more actionable for everyday practitioners. Yet, they appear divorced from broader DEI initiatives and other subject matter experts that could provide needed context to nuanced decisions around how to operationalize these values. Finally, diversity and inclusion, as configured by engineering logic, positions firms not as ethics owners but as ethics allocators; while these companies claim expertise on AI ethics, the responsibility of defining who diversity and inclusion are meant to protect and where it is relevant is pushed downstream to their customers.

연구 동기 및 목표

• 주요 AI 인프라 제공업체의 공개된 AI 윤리 문서에서 다양성과 포용성이 어떻게 프레임워크화되는지 조사하기 위해.
• 기업의 AI 윤리에서 다양성과 포용성의 기준이 시민권 기반 정당화에서 공학 중심의 기술적 접근으로 이행되는 방식을 분석하기 위해.
• 문서화를 통해 윤리적 AI 구현의 책임이 기업에서 고객으로 재분배되는 방식을 탐색하기 위해.
• 이러한 재구성 방식이 AI 시스템 내 형평성, 구조적 포용성, 인권에 미치는 영향을 평가하기 위해.
• 기업 윤리 문서가 윤리적 실천을 어떻게 형성하는지 이해하기 위해 설계의 가치와 제도적 법 체계의 역할을 검토하기 위해.

제안 방법

• 구글, 마이크로소프트, 그리고 Salesforce의 공개된 AI 윤리 문서를 대상으로 해석적 문서 분석을 수행하였다.
• 설계의 가치 이론에서 유래한 개념적 프레임워크를 적용하여 다양성과 포용성이 기술 워크플로우에서 어떻게 실천되는지 분석하였다.
• 제도적 및 조직 이론을 활용하여 기업 윤리 문서 내 책임과 책임 소재의 변화를 분석하였다.
• 시민권 정당화가 AI 윤리 프레임워크에서 기술적 개념인 공정성과 데이터 다양성으로 대체되는 방식을 추적하였다.
• 문서의 언어적 및 구조적 특징을 맵핑하여 책임 분산과 기술적 도구화의 패턴을 식별하였다.
• 이러한 구성이 AI 개발에서 광범위한 DEI 이니셔티브와 인권 준수에 미치는 영향을 평가하였다.

실험 결과

연구 질문

• RQ1 구글, 마이크로소프트, 그리고 Salesforce는 공개된 AI 윤리 문서에서 다양성과 포용성을 어떻게 표현하는가?
• RQ2 이러한 문서들은 다양성과 포용성에 대한 시민권 기반 정당화를 어느 정도 유지하고 있으며, 어떻게 재구성되었는가?
• RQ3 다양성과 포용성을 기술적 문제로 프레임화할 경우 윤리적 AI 구현의 책임 분배에 어떤 영향을 미치는가?
• RQ4 공학적 논리와 기술적 자료(예: 데이터셋, 공정성 메트릭스)는 AI 윤리에서 다양성과 포용성의 의미를 어떻게 재구성하는가?
• RQ5 이러한 문서에서 다양성과 포용성의 재구성이 광범위한 인권 및 노동 형평성 기준과 어떻게 일치하거나 상이한가?

주요 결과

• 이 기업들은 다양성과 포용성을 데이터와 공정성 중심의 기술적 과제로 재구성하며, 시민권 기반 정당화에서 벗어나고 있다.
• 다양성과 포용성은 점점 더 조직적 또는 사회적 개혁이 아닌, 공학적 과제(예: 다양한 데이터셋 구축)로 간주되고 있다.
• 형평성 개념이 기술 워크플로우에서 공정성으로 대체되며, 윤리적 문제를 단순화하지만 동시에 政治적 중립화를 초래한다.
• 윤리적 구현의 책임이 체계적으로 고객 쪽으로 이행되며, 기업들은 윤리적 책임 분담자로 위치지어져 있다.
• 문서들은 다수의 관리주의 경향을 명확히 보이며, 다양성 작업이 제품 개발 주기와 기술 워크플로우에 맞게 도구화되고 있다.
• 이러한 재구성은 윤리적 AI 실천이 직원 다양성과 역사적 소외와 같은 구조적 불평등의 맥락에서 분리될 위험을 야기한다.