[논문 리뷰] Seeing Like a Toolkit: How Toolkits Envision the Work of AI Ethics

Richmond Y. Wong, Michael Madaio외 1명|arXiv (Cornell University)|2022. 02. 17.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 27개의 인공지능 윤리 툴킷을 철저히 분석하여 윤리 작업을 개인적이고 기술적인 과제로 프레임화하고 있음을 드러낸다. 이는 다수의 이해관계자 참여를 주장하지만 실제로는 이를 뒷받침하지 못함을 의미한다. 윤리적 작업의 노동, 조직, 권력 구조에 대한 지원이 부족하다는 핵심 격차를 발견했으며, 공동 행동과 체계적 변화를 중심으로 툴킷을 재설계할 것을 제안한다.

ABSTRACT

Numerous toolkits have been developed to support ethical AI development. However, toolkits, like all tools, encode assumptions in their design about what work should be done and how. In this paper, we conduct a qualitative analysis of 27 AI ethics toolkits to critically examine how the work of ethics is imagined and how it is supported by these toolkits. Specifically, we examine the discourses toolkits rely on when talking about ethical issues, who they imagine should do the work of ethics, and how they envision the work practices involved in addressing ethics. Among the toolkits, we identify a mismatch between the imagined work of ethics and the support the toolkits provide for doing that work. In particular, we identify a lack of guidance around how to navigate labor, organizational, and institutional power dynamics as they relate to performing ethical work. We use these omissions to chart future work for researchers and designers of AI ethics toolkits.

연구 동기 및 목표

• AI 윤리 툴킷이 윤리 작업을 어떻게 프레임화하는지, 사용하는 논의의 유형, 책임을 지는 것으로 상상하는 주체, 그리고 상상하는 실천 방식을 조사하기 위해.
• 툴킷이 제시하는 사회기술적 윤리 비전과 실제 제공하는 지원 간의 괴리점을 규명하기 위해.
• 윤리적 인공지능 개발에서의 노동, 조직, 제도적 권력 구조를 다루는 데 있어 툴킷의 지침 부족을 드러내기 위해.
• 윤리적 인공지능 작업의 사회적, 공동체적, 정치적 차원을 더 잘 뒷받침할 수 있도록 툴킷 설계자에게 실천 가능한 권고안을 제공하기 위해.
• 윤리 툴킷의 지배적인 개인적이고 기술적인 프레임워크를 도전하고, 현실 세계의 조직적 복잡성을 반영하는 개입 방식을 옹호하기 위해.

제안 방법

• 학술, 산업, 공공 자료에서의 대상 검색 쿼리를 통해 선별한 27개의 인공지능 윤리 툴킷에 대한 질적 내용 분석을 수행하였다.
• 윤리 접근 방식을 정당화하는 데 사용하는 언어와 서사를 분석하기 위해 비판적 논의 분석을 사용하였다.
• 툴킷의 상상되는 사용자, 홍보하는 윤리적 작업 유형, 그리고 전제로 삼는 조직 역할 또는 실천 방식을 식별하고 코드화하였다.
• 이해관계자 포함의 공식 목표와 실제 이해관계자 참여를 위한 지원 간의 일치 또는 불일치를 매핑하였다.
• 툴킷이 인공지능 윤리 작업에서의 권력 구조, 노동 구조, 제도적 제약을 얼마나 다루는지 분석하였다.
• 툴킷 간의 패턴을 식별하기 위해 비교 분석을 사용하였으며, 공통점과 두드러진 이면(예: Data Ethically 툴킷)을 강조하였다.

실험 결과

연구 질문

• RQ1 AI 윤리 툴킷은 윤리의 어떤 논의를 끌어와 자신들의 사용을 정당화하는가?
• RQ2 툴킷은 누구를 인공지능 윤리 문제 해결의 책임자로 상상하는가?
• RQ3 툴킷은 윤리적 인공지능 개발을 위해 어떤 구체적인 작업 실천을 상상하고 지원하는가?
• RQ4 툴킷이 상상하는 역할과 실천 방식은 실제 인공지능 개발의 조직적 및 권력 구조와 얼마나 일치하는가?
• RQ5 툴킷 설계 선택의 결과로 윤리적 인공지능 개입의 확장성과 효과성에 어떤 영향을 미치는가?

주요 결과

• AI 윤리 툴킷은 윤리적 작업을 주로 기술적이고 개인적인 과제로 프레임화하며, 다수의 이해관계자 참여를 주장하지만 책임을 개발자 및 엔지니어에게 돌린다.
• 다양한 이해관계자 참여를 주장함에도 불구하고, 대부분의 툴킷은 비기술적 또는 소외된 이해관계자를 윤리적 의사결정에 의미 있게 포함시키는 방법에 대해 최소한의 지침을 제공한다.
• 계층적 의사결정 구조나 제도적 변화에 저항하는 것과 같은 조직 권력 구조를 다루는 데 대한 지원이 상당히 부족하다.
• 노동 구조, 예를 들어 공동 행동을 조직하거나 노동자 옹호를 지원하거나 노조나 노동 운동을 윤리적 인공지능 작업에 활용하는 방법을 다루는 툴킷은 소수에 불과하다.
• Data Ethically 툴킷은 공동 행동과 노동 인식 기반 윤리 실천을 제공한다는 점에서 두드러진 예외이다.
• 사회기술적 윤리 비전과 툴킷이 제공하는 기술적·개인적 지원 간의 괴리는 복잡한 조직 환경에서의 실제 효과성을 떨어뜨린다.