[논문 리뷰] Diversity and Inclusion in Artificial Intelligence

Didar Zowghi, Francesca da Rimini|arXiv (Cornell University)|2023. 05. 22.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 논문은 인공지능(AI)의 다양성과 포용성(D&I)을 실용적이고 생태계 수준의 프레임워크로 통합하는 방법을 제시하며, AI 전문가들이 실행 가능한 지침을 제공한다. 논문은 AI 개발 전 과정에 걸쳐 D&I를 종합적으로 정의하고, 편향을 완화하고 공정성을 강화하기 위한 체계적인 접근 방식을 제안한다.

ABSTRACT

To date, there has been little concrete practical advice about how to ensure that diversity and inclusion considerations should be embedded within both specific Artificial Intelligence (AI) systems and the larger global AI ecosystem. In this chapter, we present a clear definition of diversity and inclusion in AI, one which positions this concept within an evolving and holistic ecosystem. We use this definition and conceptual framing to present a set of practical guidelines primarily aimed at AI technologists, data scientists and project leaders.

연구 동기 및 목표

• AI 개발에 있어 다양성과 포용성(D&I)을 위한 구체적이고 실행 가능한 지침의 부족을 해결한다.
• 개별 시스템을 초월해 전체 AI 생태계를 아우르는 포괄적인 AI에서의 D&I 정의를 수립한다.
• AI 기술자, 데이터 과학자, 프로젝트 리더 등에 특화된 실용적이고 이행 가능한 지침을 제공한다.
• D&I를 AI 설계 및 구현 과정에서의 일회성 준수 과제가 아니라 지속적인 체계적 노력으로 위치시킨다.
• 전체 AI 개발 수명 주기 동안 포용적 실천을 통해 신뢰할 수 있는 AI 시스템을 구축하는 데 기여한다.

제안 방법

• 개인, 팀, 조직, 사회적 차원을 통합한 AI에서의 D&I에 대한 종합적 개념적 프레임워크를 제안한다.
• AI에서의 다양성과 포용성을 개발 수명 주기 전반에 걸쳐 통합된 동적이고 맥락 민감한 개념으로 정의한다.
• 팀 구성, 데이터 수집, 시스템 설계, 평가에 중점을 두고 실천 가능한 지침 세트를 제안한다.
• 모든 AI 개발 단계에서 편향을 식별하고 완화하기 위한 반복적이고 피드백 기반의 프로세스를 강조한다.
• 기술적 수준과 조직적 수준에서 지속적인 평가와 적응이 필요한 진화적이고 횡단적인 고려사항으로 D&I를 프레임워크화한다.
• 실제 AI 프로젝트 맥락에 기반하여 소프트웨어 엔지니어와 데이터 과학자에게도 관련성 있는 프레임워크를 확보한다.

실험 결과

연구 질문

• RQ1 다양성과 포용성은 AI 개발 전 과정에서 어떻게 의미 있고 실행 가능한 방식으로 정의되고 구현될 수 있는가?
• RQ2 AI 팀은 어떤 실천 가능한 전략을 통해 시스템 설계와 데이터 관행에 D&I를 통합할 수 있는가?
• RQ3 조직은 개별 이니셔티브를 초월해 D&I를 어떻게 제도화하여 장기적인 영향을 확보할 수 있는가?
• RQ4 팀 구성과 조직 문화는 포용적인 AI 결과에 어떤 역할을 하는가?
• RQ5 D&I는 AI 시스템 개발 및 구현 전반에 걸쳐 어떻게 체계적으로 평가되고 모니터링될 수 있는가?

주요 결과

• 논문은 표현을 넘어서 프로세스, 권력 구조, 체계적 공정성까지 포함하는 포괄적인 생태계 수준의 AI에서의 D&I 정의를 수립한다.
• 팀 구성, 데이터 수집, 모델 개발, 평가, 배포와 같은 핵심 단계를 중심으로 지침이 개발되고 체계화된다.
• 프레임워크는 D&I가 체크리스트가 아니라 지속적인 반복적 과정이어야 하며, 지속적인 성찰과 적응이 필요하다고 강조한다.
• 다양한 시각, 특히 소수자 그룹의 참여가 초기 단계부터 포함될 때 포용적인 AI 개발이 가장 효과적이다.
• 논문은 조직 문화와 리더십의 지원이 AI 프로젝트에서 지속적인 D&I 통합을 위한 핵심 추진력임을 밝힌다.
• 제안된 지침은 실무에서 바로 적용 가능하도록 설계되었으며, 기술 워크플로우 내에서의 현실 가능성과 영향력에 중점을 둔다.